AI Pulse
📡 X 信号

270亿参数Qwen就能和GPT-4o掰手腕?

有点离谱了。

2024 年,GPT-4o 还是大家眼中的顶级 AI。 到了 2026 年,Reddit 上有人开始认真讨论: 为什么一个只有 27B(270 亿参数)的 Qwen,已经能在部分任务上和当年的 GPT-4o 掰手腕?

大模型这两年的进步,可能比很多人想象的还要快。 GPT-4o 的参数量至今没有官方公开。网上所谓的「万亿参数」更多是猜测,不能拿来做严格对比。

但这不影响一个事实:如今几十 B 参数的模型,已经能完成很多过去需要顶级闭源模型才能处理的任务。 而且,它们可以运行在个人设备上。

到底发生了什么? 模型架构出现了革命性突破?训练数据变好了?还是大模型把知识传给了小模型?

答案可能是几个技术方向的叠加: ① 更高质量的数据与合成数据 ② 强化学习(RL)和后训练 ③ 知识蒸馏 ④ 推理时计算(Test-Time Compute) ⑤ 更成熟的训练工程

每个方向单独看都不神奇,但叠加起来,效果非常明显。

尤其值得关注的是 RL。 过去,我们主要通过扩大参数量、增加训练数据和计算量来提升能力。

现在,模型还能通过后训练不断优化数学、代码、推理和工具使用能力。 同一个参数规模,训练方法不同,最终效果可能完全不一样。

只看参数量,越来越难判断一个模型究竟有多强。

查看 X 原帖

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新