AI Pulse
🔥 热点深度解读

METR进驻Anthropic内部,AI自我迭代瓶颈12个月内未现

在Anthropic的办公区里,6名来自METR的评估人员已经坐了两个多月。他们有自己的笔记本电脑、工位,能接触到的内部工具和权限,大致和Anthropic自己的风险评估团队相当——唯一的区别是,Anthropic没法否决他们发布的任何内容。

这不是一次普通的外部审计。2026年10月15日Anthropic宣布这项安排时,METR的核心目标就写在明面上:让公众了解AI系统带来的灾难性风险,包括那些仅在公司内部使用、从未对外发布的非公开模型。此前METR已经审阅过Anthropic的风险报告、做过红队演练,这次是把工作直接搬进了对方的办公室。

从8月开始,这个进驻团队就在做一件事:评估AI本身是否正在加速AI的开发。他们现在把结果写成了报告。

@cryptopunk7213 从报告里摘出了一句最让人坐不住的话:“我们没有看到令人信服的证据表明,未来12个月内会出现显著的瓶颈。”

这句话指向的是一个叫递归自我改进(RSI)的过程——简单说,就是AI系统能自己改进自己的架构、训练流程或者底层代码,能力提升之后,再用改进后的版本去做下一轮优化,形成一个越转越快的循环。METR的优先工作,本来就是评估前沿AI开发带来的风险,其中一项参考依据就是AI系统未来的能力水平。

@_NathanCalvin 看到这条更新时的第一反应是“极其令人不安”,并开始对照自己一年前的预期,重新校准对灾难性AI风险的时间线判断。

这条核心推文目前有2680个赞、1352次收藏,浏览量超过53万。收藏数接近点赞数的一半,说明很多人不是随手划过,而是把这份报告存了下来反复读。

对普通使用者来说,这件事的影响不在某一个具体功能上,而在节奏上。如果AI开发的瓶颈真的在12个月内不会出现,那么从模型发布到能力跃升的间隔,可能会比大多数人预想的更短。

一个问题是:当独立评估员能拿到类员工权限、却依然找不到明显的减速带时,我们到底是更安全了,还是只是更早看清了前方没有刹车?

📎 参考来源

查看原始推文

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新