AI巨头呼吁放缓AI发展，OpenAI也在考虑跟进

有人刚熬夜训练完新的大模型，转头就看到行业大佬呼吁踩刹车。

Anthropic的首席执行官达里奥·阿莫代近日公开发文，呼吁整个AI行业放缓前沿人工智能的发展速度。

在他看来，现在只加大AI安全投入已经不够，只有放慢模型能力提升的速度，才能给安全对齐（让AI行为符合人类预期的研究）争取足够时间，降低严重风险发生的概率。达里奥认为，递归自我改进（AI不断自我优化能力）是紧迫风险，它可能在安全保障到位前就大幅加速AI进步，增加AI失控的可能性。

为了推动这个计划，Anthropic已经单方面开始落实三点计划中的第一步：允许第三方评估人员获得员工级的永久系统访问权限，核查安全措施的合规情况、报告安全事件，并且在模型训练过程中评估AI对齐情况。

目前已有消息称，OpenAI也在考虑联合放缓前沿人工智能的开发。

@ivan_bezdomny 认为：可以让斯坦福NLP（自然语言处理研究机构）作为符合要求的独立第三方评估机构。

@arya_amsha 认为：未来普通人很可能会被限制访问开源AI模型，甚至被隔离在所有大语言模型之外，买一台Mac M5 Ultra Studio会是最重要的投资。

这条呼吁获得了超过8万次点赞，近4万人收藏，总互动量超过15万，可见AI安全的问题已经得到广泛关注。

对于普通人来说，如果AI公司真的集体放慢发展速度，你不会马上感受到产品体验的变化，反而可能会少收到一些“又升级了”的营销通知。

但如果限制开源模型的猜测成真，普通人手里能自由使用的AI工具会变少，想要本地运行大模型的成本会越来越高——只有高端硬件才能装下越来越大的模型。

如果行业真的集体放慢速度，安全跟上了，创新会不会也一起慢下来？