Anthropic等头部AI公司呼吁放慢研发节奏

付费使用大模型生成内容的时候，你可能没想过，训练这些模型的顶尖公司正在一起呼吁放慢研发脚步。

这一次呼吁的发起者是Anthropic CEO达里奥·阿莫代（Dario Amodei），他发布了一篇名为《我们必须调节前沿节奏》的文章，提出AI行业应该放慢发展速度，并且给出了一个三步计划。Anthropic已经率先开始执行第一步：允许第三方评估人员获得永久的员工级系统访问权限，来验证安全措施执行情况、报告安全事件、在训练过程中评估模型对齐情况。

这一次呼吁不是一家之言。OpenAI的CEO山姆·奥特曼也公开表示赞同阿莫代的观点，称调节前沿AI发展节奏已经是OpenAI最近几周讨论的核心议题，OpenAI也会承诺给第三方评估人员类似员工级的访问权限。目前已经有超过一千名AI领域从业者公开签署了这份呼吁，包括OpenAI、Anthropic、Deep Seek等多个头部AI实验室都达成了共识。

阿莫代自己也提到，他过去并不支持单纯放慢研发，因为早期模型还没有展现出足够强的自主行动风险，而现在情况已经不同。AI自主智能体已经能发现还没被人类发现的安全漏洞，超级智能带来的风险越来越被重视，需要给安全、对齐和监管留出追赶的时间。

「@BetterCallMedhi认为：考虑到自主智能体发现未知安全漏洞的速度，确实有技术理由暂停下来加固基础设施。」

「@BenjaminPDixon认为：这是领先者要求所有人放慢，自己抢先的做法，同时还在游说美国政府。」

「@APompliano认为：没人真的相信Anthropic或者其他头部实验室会真的放慢脚步，资本和商业利益反而在推动他们投入更多资源加速研发。」

「@OrcaRouter认为：如果前沿模型停下脚步，开源AI就能追上进度，放慢前沿AI发展反而会加速智能的普及，让更多人能用得起。」

这件事和普通使用者的关联，比你想象得更近。不管这些大公司是真心为了安全，还是为了商业竞争抢占话语权，第三方独立评估正在逐渐成为行业常态，未来监管也会跟上这套标准。早践行这套规则的公司，更容易获得市场信任和竞争优势。

接下来监管会不会跟着要求，所有大模型训练都必须开放第三方评估？