Anthropic向国会推销法案：AI可致50人以上死亡，法院可阻止发布

Anthropic 正在向国会推销一份 AI 安全法案草案：特定情况下，阻止 AI 模型发布。发言人确认了草案的存在，称它代表该公司自 6 月以来一直倡导的“高级 AI 框架”。

草案的触发门槛写得很具体。模型要带来“可预见的、迫在眉睫的风险”。这种风险有两种可能后果：导致 50 人以上死亡，或超过 10 亿美元财产损失。风险还必须来自三类场景：生物武器的制造或释放、模型逃避开发者控制、网络攻击。满足这些条件，模型就可能被阻止发布。50 人和 10 亿美元这两个数字，与加州已通过的 SB 53 法案对“灾难性风险”的定义接近。

执行路径也写得很清楚。评估员一旦判定存在迫在眉睫的灾难性风险，须在 72 小时内通知美国商务部。商务部随后必须向华盛顿特区的法官提出请求，由法官决定是否阻止发布。草案还明确禁止任何联邦机构自行做出阻止发布的决定。

关键角色是“独立评估员”。他们在美国商务部注册，报酬可以由 AI 实验室支付，前提是支付不取决于评估结果。但草案没有说明，怎么保证这种支付安排不影响评估结论。

这份提案在行业内站得比同行更远。多数 AI 实验室一边警告自家技术可能带来灾难，一边抵制强制性政府监管。它们更偏向自愿的嵌入式评估员系统。Nvidia 首席执行官黄仁勋最近还说过，AI 行业根本不需要新法律。几个月前，DeepMind 主席 Demis Hassabis 提议，AI 监管模仿金融业的 FINRA。FINRA 是行业自律组织。Anthropic 直接让法院掌握阻止发布的权力，性质不同。

草案里的风险类型，和当下行业最关心的问题有距离。最近 AI 领域的热点威胁是“代理黑客攻击”——AI 智能体被利用来发动攻击。草案的触发条件只列出生物武器、模型逃避开发者控制、网络攻击三类，代理黑客攻击不在其中。监管框架瞄准的是低概率、高杀伤的灾难，行业最担心的问题反而落在这个框架之外。

法案文本还没公开。它会不会被国会采纳，会不会和加州 SB 53 这样的州法冲突，目前都不清楚。AI 安全监管的讨论，正从“公司自己说了算”转向“外部评估加法院介入”。