AI Pulse

阿里拟推5万亿至10万亿参数AI模型,社区:像在暴力破解智能

阿里巴巴准备推一个5万亿到10万亿参数的AI模型,同场还发布了一款新芯片。

光是5万亿到10万亿之间的差距,就比社区里绝大多数模型的全部参数量还大。参照一下:Kimi的模型是2.6万亿参数,当时有人评价“这已经很大”。DeepSeek R1发布时是6910亿参数,社区兴奋了两天。阿里把目标定在这个量级,社区没见过。

这个规模基本排除了个人本地运行的可能。社区的看法很直接:这种尺寸的模型只能通过API用。连2万亿参数的模型在API上都跑不出理想速度,5万亿以上的推理只会更难。已经有人在等着看热闹:会有人说自己在单张3090上跑出了每秒31个token。那种跑法,是把量化压到极限、再深度压缩之后的结果。还有人提议用VLAN把社区硬盘连起来,专门放n-gram表——存储先成了门槛。

质疑也不少。有人说得直接:把参数堆到5万亿、10万亿,像是在暴力破解智能。另一种观点指向评价标准:推理效率和任务覆盖面才是更重要的指标。GPT-5.6-Luna不太可能有5万亿参数,表现依然强劲。多数人并不需要一个巨大的模型。这些质疑都通向同一个问题:参数规模到底是不是衡量AI进步的正确尺度。

同时发布模型和芯片,方向已经摆出来了:算法规模的扩张,需要配套的计算基础设施。这类模型只能云端集中部署。个人设备跑不动的现实,反过来会让AI能力更向云服务商集中。

社区里有人把它比作《银河系漫游指南》的“深思”——别拿终极问题去问它。不然硬件成本会比现在更失控。对新模型的期待也分裂。想看它实际表现的有,等阿里放权重的也有,还有一路在等蒸馏版。蒸馏版也就是Qwen 4 27B这样能在本地运行的小版本。后者才决定多数人能不能在本地用上AI。

阅读原文
📚 相关主题 大模型

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新