AI Pulse

谷歌自家基准:Gemini编程既赢Opus,也输Opus

我在看谷歌Gemini 4 Argon的基准测试结果时,有件事引起了我的注意。

Argon在DeepSWE上击败了Opus 5.5(77.9%对74.2%)。

但在Terminal-Bench 4.0上,Opus以较大优势胜出(66.4%对57.4%)。Opus在FrontierSWE上也赢了。

同样的模型,取决于测试的是什么,结果截然不同。

这让我不禁怀疑“最佳编程AI”这个标签到底有多大用处。

两个都用过的人,这是否符合你们的实际体验?

—— 高票评论(帖子共2条讨论)——

[+11] u/wealthyintercession:基准测试只是企业的星座占卜,挑一个你想听的结果就行。

[+0] u/Cold-Talk4581:这张表里的四个编程基准实际上分成了三个方向,这比标题更有意思。Gemini拿下了DeepSWE(77.9对74.2)和Vibe Code Bench(91.9对90.3),Opus拿下了Terminal-bench 4.0(66.4对57.4)和FrontierSWE(62.3对55.0),而GPT-6 Astra在该行中以65.5拿下FrontierSWE最高分。Opus赢的两个都是终端风格/智能体评估类基准,这与人们在真实仓库工作中的观察一致。值得记住的是,这是谷歌自家的评估集,所以任务分布在构建上就会偏向Gemini,但Opus在终端任务上的领先幅度足够大,无论如何都能体现出来。

阅读原文
📚 相关主题 编码测试

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新