AI Pulse
🔥 热点深度解读

30B参数开源模型,把Agent性能天花板捅破了

Nanbeige团队刚放出了Nanbeige4.3-33B,在约30B参数的开源模型里,把智能体(Agent,能自主调用工具完成任务的AI程序)的性能拉到了新高度。这条发布推文在X上获得了近7万次浏览、887个点赞,539次收藏——收藏数接近点赞数的六成,说明不少人把它存下来准备实测。

@NFT_Chen 直接用了“无敌了”来形容这次发布,他列出的核心成绩包括:Terminal-Bench 2.1得分80.9、Terminal-Bench 4.0得分23.8、DeepSWE得分65.5。@kimmonismus 则从横向对比的角度指出,这款模型在多数基准测试中,表现超过了同量级的Qwen 3.8 27B和Gemma系列模型。

这不是一次孤立的参数竞赛。过去行业的普遍认知是:要让AI能干活,就得堆参数。但新一代智能体架构正在改变这个逻辑——大模型被定位为“循环中偶尔调用的顾问”,而不是全程参与每一步的核心组件。

Vercel的一项测试更直观:当编排器(负责调度子任务的中枢)开启推理能力时,1.7B、8B、32B参数的子智能体在GAIA基准测试中得分分别为23.0、23.0、23.6——几乎没有差别。只有当编排器关闭推理能力时,参数规模的影响才显著拉开。

Nanbeige团队的策略恰好踩在这个趋势上:先训练一个强大的“教师模型”(即33B版本),再用它蒸馏出更小的后续版本。@nanbeige 在推文中明确表示,这款模型将作为教师,为即将推出的更小尺寸Nanbeige模型提供能力支撑。

这意味着什么?过去要跑一个能写代码、能操作终端的智能体,往往需要调用动辄数百B参数的大模型API,每一步JSON格式化都要支付“万亿参数世界知识”的成本。而现在,30B量级的模型已经能在主流智能体框架里,以更低的推理成本完成真实任务。

更关键的是可部署性。小语言模型的定义从来不是严格按参数数量划分,而是以“能在消费级设备上低延迟运行”为核心。Qwen3.8-27B已经被验证可以在消费级硬件上运行,而Nanbeige4.3-33B在同量级里把性能再往上推了一截。

当“够用”的智能体模型不再需要依赖云端大模型,本地部署的门槛就从“能不能跑”变成了“跑得好不好”。

一个值得琢磨的问题是:如果30B参数的模型已经能在编码和协作基准上反超同量级对手,那下一代更小的蒸馏版本,会不会直接把“本地跑智能体”这件事,从极客玩具变成日常工具?

📎 参考来源

查看原始推文

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新