AI巨头Anthropic呼吁放缓AI发展，这事和你有关吗

有人周末刷科技资讯，刚看完几个新大模型发布的消息，转头就看到顶级AI实验室老板发长文呼吁行业踩刹车。

2026年6月，Anthropic CEO Dario Amodei发布了题为《我们必须给前沿踩刹车》的文章，呼吁整个AI行业放慢发展速度，给安全、模型对齐（让AI的目标和人类利益保持一致）、治理研究留出足够时间跟上技术脚步。

他提出了一个三步计划，而Anthropic已经单方面开始落实第一步：给第三方评估人员永久的员工级系统访问权限，让他们可以随时验证安全措施是否合规，报告发生的安全事件，并且在模型训练过程中持续评估对齐情况。

Anthropic本身也是AI加速发展的亲历者：他们的Claude模型在研究优化工作中，今年实现了约52倍的速度提升，而去年这个数字还只有3倍。有观察者提到，Anthropic此前造出了能力过强、连他们自己都不敢公开发布的模型Mythos。

@DarioAmodei 认为：AI可能在未来5到10年治愈大多数重大疾病，大幅加快经济增长，创造一个富足赋能的世界，但即便如此，我们也需要控制AI发展的节奏，让安全跟上能力。

@levie 认为：虽然不同意文中所有观点，但这篇文章确实反映了前沿AI发展前进道路上很多实际问题，不管我们愿不愿意承认。@scottstts 则提出了批评，认为这种观点傲慢且带有偏见，隐含了对其他国家AI发展的不合理限制。

Anthropic今年年度开支已经达到12.5亿美元，而OpenAI预计2026年开支会到140亿美元。大模型能力增长越来越快，烧钱速度也水涨船高，安全问题已经无法只靠少数几个顶尖实验室关起门来解决。

对齐研究跟不上能力增长，最终买单的不会是实验室老板，而是每个可能用到不安全AI的普通人。如果连开发AI的人都承认技术跑得太快，安全问题拖后腿，那放慢脚步到底是为了全人类安全，还是为了让头部实验室保住领先位置？

下一个能颠覆行业的大模型出来之前，安全这道闸，谁来拉？