252.4GB到93GB，MiniMax发帖感谢量化M3.1 Flash的开发者
MiniMax在X上发了一封感谢帖，点名感谢所有量化M3.1 Flash的开发者。这个模型428B参数，面向编程和智能体任务，开源权重最初252.4GB。社区用10天把它压到93GB。
能压这么多，和训练方式有关。M3.1 Flash在训练时就把量化考虑进去了，每一层有稀疏注意力，每个token只激活428B参数里的23B。原始模型支持图像和视频输入，内存够的话，上下文能到100万token。
已经跑起来的版本不止一个。PeasantSmith的Maya-XS是93GB，128GB内存的PC就能运行。工具调用和代理任务上，top-1一致率88.8%。ViC305的SAGE-EXL3是108.64GiB，单块DGX Spark能跑。保留序列上top-1一致率96.89%，48K上下文下解码24.37到29.72 tok/s。Unsloth的UD-Q2_K_XL是143.9GB，面向160GB以上内存的设备，七个类别加权top-1一致率91.5%。superalesha用自己的引擎加Unsloth的2-bit量化。4块RTX 3090上解码23到31 tok/s，16K上下文预填充1120 tok/s。
top-1一致率量的是量化版输出与原模型的接近程度。它不等于真实任务里的表现。
门槛降了，但没有消失。superalesha在128GB内存上跑到内存耗尽，升到512GB才继续。除此之外还有面向Apple Silicon的oMLX（196.2GB）、面向AMD MI350/MI355的Quark MXFP4、Mia-AiLab的EXL3-EAQ 3.55 bpw，以及Atomic Chat的GGUF版本。
官方感谢之外，原帖作者给了一层判断：人们不会把这种校准工作投入到不会持续运行的权重上。他自己只在托管方式下用过M3.1 Flash，早上还让模型完成了几个代理任务，所以能理解开发者为什么愿意做这些细活。
真实工作场景的表现还没有长期数据。原帖作者在讨论里问，有没有人在真实的编码或工具调用工作中运行这些量化版本；一位评论者带讽刺地打听，有没有人成功治好了模型话太多的毛病。量化版在真实编码和工具调用里稳不稳，眼下还没有公开数据。
关键事实
- MiniMax在10天内将M3.1 Flash的开源权重从252.4 GB压缩到93 GB，并公开感谢了参与量化的开发者。
- M3.1 Flash是一个428B参数（4280亿参数）的模型，原始权重大小为252.4 GB。
- M3.1 Flash在训练时就内置了量化，每一层都有稀疏注意力，每个token只激活428B参数中的23B。
- M3.1 Flash是一个编码和代理模型，支持图像和视频输入，如果设备内存足够，上下文长度可达100万token。
- superalesha在128 GB内存上运行量化模型时内存耗尽，升级到512 GB才继续。
- 帖子作者表示自己只通过托管方式使用过该模型，今天早上完成了代理任务，因此理解为什么开发者愿意投入量化工作。