AI Pulse

Cotra 称极端超级智能或一年内出现,那张曲线图被指从空气里拽出

METR 的 Ajeya Cotra 把一份报告称作过去几年里关于 AI 风险最重要的更新,分量比 Hugging Face 攻击事件大得多。她的判断更刺眼:极端超级智能可能在一年内出现。

报告标题是《AI is dramatically accelerating AI》,发在 planned-obsolescence.org。题目直译过来,AI 正在大幅加速 AI 自身。

评论里少见对时间表的追问,火力大多落在报告里的一张曲线图上。

一张图,几种读法

一位评论者提醒,这张图在对数尺度上依然是条指数曲线。另一位的读法几乎相反:任何对数尺度,只要缩得够小,都会看着像水平线。

有人点出更根本的问题——作者是在给一张定性的图赋予定量属性。支持它的数据在哪里?一位评论者说,图是从空气里拽出来的。

数学玩笑也来了:他也能画 y = -1/x,x 取 [-2, 0) 这一段。另一位说,把 sigmoid 函数放大,就能得到这张图,而 sigmoid 不是指数。还有人直接下判断:这张图感觉是故意误导。

同一段曲线,换个区间、换个缩放,形状判断就变了。指数曲线、sigmoid 放大后的局部、双曲线的分支,都能长得像一次加速。

加速的是什么

有评论问得更直接:把同一件事做得更快,在什么意义上算变得更智能。

另一些人把话题拉回收入。AI 的提速目前主要落在写代码上。一位评论者说,在 AI 开始影响编码以外的领域之前,相关公司会遇到收入上的实际限制。

需求端也有人算:公司不一定需要今天代码产量的 32 倍。不是软件公司的,代码更多不等于卖得更多,至少不是一比一。是软件公司的,就得把做出来的东西卖出去。在一个代码量是今天 32 倍的世界里,这件事会变得非常困难。

另一种担忧:谁在控制

曲线之外,有评论换了角度:真正的威胁不是 AI 突然脱离人类控制,而是企业保护主义和背后拉线的人。

更具体的一条指向看门人:Anthropic 和 METR 这类机构试图对普通使用者施加单边控制,同时把自己豁免在自己的规则之外。这两条是评论者的判断,不是已核实的结论,控制以什么形式实施也没有给出证据。

还没答案的部分

那张图的数据从哪来,没有交代;报告是否经过同行评审,也没有提到。Cotra 说的“极端超级智能”具体指哪些能力,同样没展开。

如果加速只体现在代码产出上,这些公司就卡在同一件事上:卖出去的软件和服务没有同比变多。

模型的定价和可用性,绕不开这条收入线。

关键事实

阅读原文
📚 相关主题 AI风险行业观点社区讨论

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新