Artificial Analysis 发布 Progress Index,量化大模型能力年增速
我们发布了 Artificial Analysis 进步指数(Progress Index):一个覆盖 2022 年以来所有语言模型的统一能力标尺,与 Intelligence Index v5 一同推出。
Intelligence Index 仍然是我们衡量当前模型智能水平的主要指标。它采用当下与开发者最相关的评测,因此其评测组合会随着评测的新增和淘汰而变化,不同版本的分数无法直接比较。
进步指数是为跨时间比较而构建的。它采用项目反应理论(一种用于标准化考试评分的统计方法),根据我们所有评测中的底层任务(包括那些已淘汰或未纳入 Intelligence Index 的任务),为每个模型估算出一个通用能力分数。
用 Intelligence Index 来选择当下的模型。用进步指数来观察能力随时间的变化。
进步指数建立在将模型置于统一能力标尺上的先前工作之上,特别是 @EpochAIResearch 的 Epoch 能力指数,以及 @AnthropicAI 在其 Claude Mythos Preview 系统卡片中发布的能力标尺。
主要结论:
➤ 自推理模型出现以来,前沿水平每年提升约 65 至 70 分,约为 2023 年增速的两倍:已发布模型中的最高分在 2023 年提升了 35 分(从 GPT-3.5 Turbo 的 125 分升至 GPT-4 Turbo 的 160 分),2024 年提升了 67 分(达到 o1 的 228 分),2025 年提升了 68 分(达到 GPT-5.2 的 296 分),2026 年至今已提升 56 分(达到 Gemini 4 Carbon 的 352 分)。
➤ 开放权重模型通常落后于专有模型约 4 个月:自 2025 年 1 月以来,每一次开放权重模型的最高分刷新,都比专有模型首次达到该分数晚 2 至 8 个月(中位数约 4 个月)。DeepSeek V4.1 Flash 1017 是已发布权重中得分最高的模型,为 324 分,这是 Claude Fable 5 在 2026 年 6 月达到的水平。Kimi K3.1 Pro(权重尚未发布)得分为 341 分,约比闭源前沿晚两个月。
➤ 新的前沿分数刷新频率更高:已发布模型中的最高分在 2023 年有 2 次发布时被刷新,2024 年有 4 次,2025 年有 9 次,2026 年至今已有 11 次。今年大约每四周就会刷新一次。
➤ 自 2022 年 11 月以来,OpenAI 大部分时间保持着最高分,但前沿竞争已变得非常激烈:OpenAI 在被测量的前 27 个月里一直占据第一的位置,但尤其是在 2026 年,OpenAI、Anthropic 以及现在的 Google 之间的领先地位更迭迅速。
本文由 AI 翻译自英文原帖,技术名词保留英文。
查看 X 原帖