Cotra 称极端超级智能或一年内出现,那张曲线图被指从空气里拽出
METR 的 Ajeya Cotra 把一份报告称作过去几年里关于 AI 风险最重要的更新,分量比 Hugging Face 攻击事件大得多。她的判断更刺眼:极端超级智能可能在一年内出现。
报告标题是《AI is dramatically accelerating AI》,发在 planned-obsolescence.org。题目直译过来,AI 正在大幅加速 AI 自身。
评论里少见对时间表的追问,火力大多落在报告里的一张曲线图上。
一张图,几种读法
一位评论者提醒,这张图在对数尺度上依然是条指数曲线。另一位的读法几乎相反:任何对数尺度,只要缩得够小,都会看着像水平线。
有人点出更根本的问题——作者是在给一张定性的图赋予定量属性。支持它的数据在哪里?一位评论者说,图是从空气里拽出来的。
数学玩笑也来了:他也能画 y = -1/x,x 取 [-2, 0) 这一段。另一位说,把 sigmoid 函数放大,就能得到这张图,而 sigmoid 不是指数。还有人直接下判断:这张图感觉是故意误导。
同一段曲线,换个区间、换个缩放,形状判断就变了。指数曲线、sigmoid 放大后的局部、双曲线的分支,都能长得像一次加速。
加速的是什么
有评论问得更直接:把同一件事做得更快,在什么意义上算变得更智能。
另一些人把话题拉回收入。AI 的提速目前主要落在写代码上。一位评论者说,在 AI 开始影响编码以外的领域之前,相关公司会遇到收入上的实际限制。
需求端也有人算:公司不一定需要今天代码产量的 32 倍。不是软件公司的,代码更多不等于卖得更多,至少不是一比一。是软件公司的,就得把做出来的东西卖出去。在一个代码量是今天 32 倍的世界里,这件事会变得非常困难。
另一种担忧:谁在控制
曲线之外,有评论换了角度:真正的威胁不是 AI 突然脱离人类控制,而是企业保护主义和背后拉线的人。
更具体的一条指向看门人:Anthropic 和 METR 这类机构试图对普通使用者施加单边控制,同时把自己豁免在自己的规则之外。这两条是评论者的判断,不是已核实的结论,控制以什么形式实施也没有给出证据。
还没答案的部分
那张图的数据从哪来,没有交代;报告是否经过同行评审,也没有提到。Cotra 说的“极端超级智能”具体指哪些能力,同样没展开。
如果加速只体现在代码产出上,这些公司就卡在同一件事上:卖出去的软件和服务没有同比变多。
模型的定价和可用性,绕不开这条收入线。
关键事实
- METR 的 Ajeya Cotra 称这是过去几年中关于 AI 风险最重要的更新,比 Hugging Face 攻击事件重要得多。
- Ajeya Cotra 认为该更新意味着极端超级智能可能在一年内出现。
- 相关报告标题为“AI is dramatically accelerating AI”,链接指向 planned-obsolescence.org。
- 有评论指出该图在对数尺度上呈指数增长。
- 有评论认为该图试图给定性图赋予定量属性。
- 有评论认为真正的威胁不是 AI 失控,而是企业保护主义和背后操控者。
- 有评论指责 Anthropic 和 METR 等看门人试图对普通用户实施单边控制,同时自己却豁免于规则。
- 有评论质疑“做同样的事情更快”如何能带来更智能。