METR进驻Anthropic内部,AI自我迭代瓶颈12个月内未现
在Anthropic的办公区里,6名来自METR的评估人员已经坐了两个多月。他们有自己的笔记本电脑、工位,能接触到的内部工具和权限,大致和Anthropic自己的风险评估团队相当——唯一的区别是,Anthropic没法否决他们发布的任何内容。
这不是一次普通的外部审计。2026年10月15日Anthropic宣布这项安排时,METR的核心目标就写在明面上:让公众了解AI系统带来的灾难性风险,包括那些仅在公司内部使用、从未对外发布的非公开模型。此前METR已经审阅过Anthropic的风险报告、做过红队演练,这次是把工作直接搬进了对方的办公室。
从8月开始,这个进驻团队就在做一件事:评估AI本身是否正在加速AI的开发。他们现在把结果写成了报告。
@cryptopunk7213 从报告里摘出了一句最让人坐不住的话:“我们没有看到令人信服的证据表明,未来12个月内会出现显著的瓶颈。”
这句话指向的是一个叫递归自我改进(RSI)的过程——简单说,就是AI系统能自己改进自己的架构、训练流程或者底层代码,能力提升之后,再用改进后的版本去做下一轮优化,形成一个越转越快的循环。METR的优先工作,本来就是评估前沿AI开发带来的风险,其中一项参考依据就是AI系统未来的能力水平。
@_NathanCalvin 看到这条更新时的第一反应是“极其令人不安”,并开始对照自己一年前的预期,重新校准对灾难性AI风险的时间线判断。
这条核心推文目前有2680个赞、1352次收藏,浏览量超过53万。收藏数接近点赞数的一半,说明很多人不是随手划过,而是把这份报告存了下来反复读。
对普通使用者来说,这件事的影响不在某一个具体功能上,而在节奏上。如果AI开发的瓶颈真的在12个月内不会出现,那么从模型发布到能力跃升的间隔,可能会比大多数人预想的更短。
一个问题是:当独立评估员能拿到类员工权限、却依然找不到明显的减速带时,我们到底是更安全了,还是只是更早看清了前方没有刹车?
📎 参考来源
- Review of the "Misalignment in high-stakes settings" section in Anthropic's Risk Report (August 2026) - METR
- Anthropic gives six METR evaluators employee-like access to its AI safety work | MLQ News
- Anthropic Gives METR Employee-Like Access: What It Means | CellCog
- Recursive Self Improvement Initiative - Institute for Security and Technology
- The Economics of Recursive Self-Improvement - METR