Anthropic CEO提出要放缓前沿AI发展速度

最新消息：达里奥·阿莫迪表示，Anthropic 在他的博客中迈出了「调整前沿人工智能开发节奏」的第一步。>「我们必须放缓提升人工智能模型能力的节奏」> 自今年夏天以来，有两件事让他确信人工智能开发必须放缓：
1. Hugging Face 事件：「在6-12个月内，这样一大群攻击就能通过持久僵尸网络控制整个互联网」
2. 递归自我改进：「这种能力可能会超出我们理解和控制这些系统的能力，因此即使要开展相关研究，也必须非常谨慎地进行」

文中还提到「人工智能可以在未来5-10年内治愈大多数重大疾病」>「调整节奏」并不意味着停止模型训练或技术进步> 它的意思是充分放缓，让对齐、安全和独立测试工作能够跟上进度。他提出了三个步骤：
> 让获得类似员工访问权限的第三方评估机构进入前沿实验室
> 民主国家的前沿人工智能实验室之间开展协调
> 全球协调，其中包括与中国达成协议

Anthropic 目前正在推进第一步。

关于中国：>「如果这些措施执行得当」，放缓不应该让中国超越美国> 他再次呼吁收紧芯片限制，并停止走私> 同时还要防止知识蒸馏和模型权重盗窃>「我认为，这些措施足以放缓中国的进展，在未来3-5年内大幅扩大美国的领先优势」。