MiniCPM5-2B 仅2GB内存可离线跑全任务
天呐,这个小尺寸本地模型也太好用了吧。
MiniCPM5-2B只有20亿参数(真不敢相信!),能在任何笔记本甚至手机上完全离线运行智能体。这个100%开源的模型可以完成代码编写、智能体任务、工具使用任务,只需要2GB内存就能运行!它哪怕在Hermes智能体里表现也真的很棒!
我让它做了这些任务:
- 访问 Hugging Face
- 找到模型板块
- 按照多个标准评估模型
- 创建一份包含前15名模型的CSV文件
它做到了!
官方发布中引用的《人工智能分析指数 v4.1.1》结果显示,MiniCPM5-2B得分23,在参数量低于40亿的开源模型中排名第一。
现在问题已经不在于模型尺寸了,而在于智能密度:清华大学和ModelBest的研究者提出了“稠密定律”:在研究周期内,开源预训练基础模型的最大能力密度大约每3.5个月翻一倍!
还有一点很有意思,OpenBMB的开源方案不止是发布模型权重,以下这些内容也全部开放:
- 精选训练方法
- 智能体相关数据
- 数据细化资源
包括集成Meshy + JustRL II的强化学习框架也一并开放。这个模型甚至在GDPval-AA v2这类选定评估中,性能超过了某些尺寸大6倍的模型!
本文由 AI 翻译自英文原帖,技术名词保留英文。
查看 X 原帖