开源20亿参数小模型，性能超越6倍大模型

有人用手机离线打开了一个20亿参数的AI模型，刷新了不少人对小模型的认知。

这个叫MiniCPM5-2B的开源模型，由OpenBMB与清华大学NLP实验室、ModelBest合作开发。在Artificial Analysis Intelligence Index排名中，它位列40亿参数以下开源模型第一名。

OpenBMB认为：它把高智能密度带到了端侧设备，并且拥有早期形态的通用智能体能力，在编码、数学、长文本理解、工具使用等34个测试项目中平均得分53.9。

@itsPaulAi认为：它只是20亿参数模型，性能却比参数大6倍的模型更好，还能在手机上本地离线运行，针对智能体和编码做了优化，让人很难相信这是真的。

@ItsmeAjayKV认为：它是稠密模型，拥有128k上下文长度，架构兼容主流推理框架，现在是端侧设备最好的开源小模型。

参数数量是衡量AI模型大小的核心指标，一般来说参数越多能力越强，同时需要的运行空间和计算资源也越多，很难在手机、电脑这类个人设备上本地运行。

MiniCPM5-2B打破了这个常规认知，它只有20亿参数，却拿到了同参数段模型的第一名，而且不需要联网就能在手机上运行，这意味着普通用户不用订阅云端AI服务，就能在自己的设备上使用AI。

项目本身开源也意味着，任何开发者都可以基于这个模型免费修改，做出各种各样的本地应用，比如之前MiniCPM5系列就已经有了桌面宠物这样的趣味应用。

端侧AI越来越成熟之后，普通用户不用把自己的数据上传到云端，隐私安全能得到更好保障，而且不会有延迟和联网失败的问题。

当越来越多好用的小模型出现，你还会需要付费订阅大公司的云端AI服务吗？