Project Maya v1.1.29 上线,现在能在自家 GPU 跑三个开源前沿模型
Project Maya v1.1.29 来了,这次更新分量十足:MiniMax-M3.1-Flash 现已能在 Maya 上运行。
这意味着你现在可以在自己的 GPU 上本地运行三款前沿开源模型:GLM-5.3-Flash、DeepSeek-V4.1-Flash,以及现在的 MiniMax-M3.1-Flash——后者是一个 428B 参数模型,每个 token 激活 23B,上下文窗口最高可达 1M。
MiniMax 拥有专属引擎,由 @needmorevram 构建。在发布之前,我们已将其提升到与 GLM 和 DeepSeek 相同的标准:
- 在 NVIDIA 显卡上运行,从 V100 起步,支持 Linux 和 Windows
- 自动适配你的电脑:安装程序会根据你的内存容量选择合适的上下文长度,引擎会自行规划 VRAM 和 RAM 分配,而不是直接报错失败
- 默认使用紧凑缓存,长上下文占用的内存减半,且质量不受损失
- 支持图片、工具调用以及 MiniMax 的所有思考层级,并附带开箱即用的推荐设置
- 视觉塔在你发送图片之前不会占用 GPU,这样 VRAM 就能全部留给模型
非常感谢 @needmorevram,以及所有为 Maya 进行测试、反馈和贡献的人。这就是社区开源的样子。
接下来(开发中):我们自己的 MiniMax-M3.1-Flash Maya GGUF 量化版,小到可以在 128 GB 内存的电脑上运行。
链接见回复 👇
本文由 AI 翻译自英文原帖,技术名词保留英文。
查看 X 原帖