AI Pulse

AI的边际收益在递减,达到同样水平的成本一年比一年低

AI 进步相对于投资金额,正在呈现边际收益递减。这个判断来自 METR 对 Anthropic 加速情况的估计。即便算上这种加速,也不足以克服递减。用考试作比,从 30 分提到 40 分,比从 70 分提到 80 分容易得多。AI 眼下更接近后一种处境。

钱花在还没建成的地方

很大一部分支出投向尚未建成的未来数据中心,这些设施还没开始产出算力。同时,GPU 价格和数据中心成本都在上涨,同样多的算力,现在要花更多钱。建成之后,算力供给会增加;在那之前,这些投资只增加开支,不增加能力。

换一种衡量方式,曲线翻转

基准分数接近 100% 时会自然趋于平缓,不管下一个模型多好,看上去都像收益递减。换成“达到某个固定能力水平要多少成本”来量,曲线就翻转了。达到去年顶级模型水平的成本,每年以巨大倍数变得更便宜。同一段进步,两种衡量方式给出相反的印象。

斜率从每十亿美元 6.58 点滑到 0.76 点——那是线性美元轴上的数字。缩放定律从来讲的是每 10 倍计算量带来多少收益。所以即使什么都没放缓,曲线这样弯曲也大致在预期之内。有人提出,把支出改到对数尺度上重画,曲线是否还这么平,目前没有答案。

研发预算的另一面

研发预算中相当一部分,可能用于把技术商业化、推到用户面前,而不是全部投向前沿能力。如果这部分占比不小,产品迭代会更偏向可用性和落地,而不只是模型本身更强。

这种投入产出关系能否持续,取决于一个前提:在达到完全 RSI(递归自我改进)之前保持偿付能力。也有评论认为,这可能只是一次性的大额资本支出,此后资本支出会回落。若果真如此,现在看到的支出曲线和收益曲线,就不能代表往后的年份。

关键事实

阅读原文
📚 相关主题 行业讨论

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新