Anthropic 悄悄给美国国会递了份 AI 安全法案草案

重磅消息。我的看法是：Anthropic 确实提出了一份相当合理的 AI 安全法案，值得肯定；这已经比其他前沿实验室做得多了。

但我认为，他们也不值得被过度称赞。这份法案在一些关键方面比 Trahan-Obernolte 的《FRONTIER 法案》更弱。而且，自 7 月《FRONTIER 法案》提出以来，政治风向已明显转向支持安全监管，我认为如今新提出的法案理想情况下应该比《FRONTIER 法案》走得更远，而不是倒退。

公平地说，这份法案明显弱于《FRONTIER 法案》的地方主要在于：(a) 规则制定（《FRONTIER 法案》中非常强，而在 Anthropic 的法案中几乎不存在）；以及 (b) 紧急关停权限。

即使你认真对待安全问题，如果你不信任行政部门能负责任地运用这些权力，那么削弱这些权限或许也有道理，因为这些条款最容易被一个假设的、可能不喜欢某家前沿 AI 公司的总统所滥用。

不过，这份法案相比《FRONTIER 法案》也有一些改进。例如，它明确规定审计师需持续任职，并且在审计师获取信息方面有更好的条款。我很高兴看到 Anthropic 能做到这一点（尽管我认为他们的信息获取条款仍不够完善，存在第四修正案方面的问题）。

总体而言，我认为未来几个月提出的嵌入式审计师法案会比这份好得多、也更有雄心。我希望 Anthropic 能支持这些法案，而不是反对任何将灾难性风险视为其本应所属的严重国家安全问题的法案。

尽管如此，看到一家前沿实验室能走到这一步，还是令人鼓舞的。

据 Politico 报道，Anthropic 已向美国议员悄悄提交了自己的 AI 安全法案草案，计划对人工智能安全与安保进行监管。

独家新闻：Anthropic 一直在悄悄向国会议员推销自己的 AI 安全法案。详情请见：