美国政府禁止Anthropic模型并非出于AI越狱，而是政治打压

美国政府向Anthropic发出的执法信函——这家公司被迫在周末前将其最新AI模型下线——对任何美国科技公司，无论是否是AI实验室，都敲响了警钟。

回顾一下最近的消息：上周五下午，美国商务部致函Anthropic，援引一项模糊的出口管制指令，以未指明的国家安全担忧为由，禁止非美国人（包括Anthropic员工）访问Fable 5和Mythos 5。Anthropic表示，它认为这封信与模型防护措施的绕过有关，但由于信中未提供具体细节，它并不确定。这封信尚未公开。

作为回应，Anthropic关闭了其两个顶级模型的所有客户访问权限，以确保遵守指令。结果是，美国政府通过迅速且单方面的行动，成功地迫使一家科技公司将其模型下线，而这一行动似乎不需要法院批准。

特朗普政府上周五的干预表明，AI行业并非不受政府干预。这也是对更广泛科技行业的一个警告：要么遵守，要么我们可以让你和你的产品关门。

Axios援引消息人士称，这个周末两大参与者之间的局势紧张，并表示Anthropic与特朗普政府之间的“个性差异”导致了出口指令，而非AI产品的技术问题。

周末浮现的关于此事的新细节现在进一步质疑了政府本已站不住脚的推理。

网络安全资深人士、Luta Security创始人Katie Moussouris在博客中表示，Anthropic最近与她分享了一份私人副本，内容是一份安全研究人员撰写的论文，描述了据称对Fable 5的防护措施绕过（《华尔街日报》报道，论文作者是亚马逊的安全研究人员）。Moussouris说，Anthropic联系了她，询问她对这篇论文的看法。

Moussouris的博客描述了研究人员如何触发防护绕过，但表示绕过本身“绝不应该触发出口管制”。其区别主要在于，是要求AI模型“审查代码中的安全问题”，还是要求它“修复此代码”。即使提问方式略有不同，最终结果大致相同。

“论文中描述的行为实际上无法修复，任何尝试都只会削弱模型用于防御的能力，”Moussouris批评这项出口管制指令为仓促、粗暴且误导。

此后，Moussouris和数十名顶尖安全研究人员及专家呼吁特朗普政府撤销该出口管制令，称该举动会从美国网络防御者手中夺走先进的网络安全能力，这是“危险的”。

过去的政府在知识差距上做出过笼统的决定。例如，在2010年代，美国政府为涵盖也可用于网络攻击的网络安全工具而修订出口法律时，所用语言过于宽泛，以至于几乎使合法的安全与漏洞研究成为非法。

然而，特朗普政府的指令似乎是报复性的。

Tech Policy Press编辑Justin Hendrix表示，特朗普政府的举动“很可能引起外国首都对美国AI在关键应用中的可靠性的警惕”。其传递的信息是：美国的AI公司不能保证在没有美国政府干预的情况下运营。

特朗普政府尚未确认为何援引了其出口管制指令。官员们是误读了报告并惊慌失措？亚马逊CEO Andy Jassy出于谨慎或恶意，向高级政府官员说了些什么从而引发了反应？是翻译过程中出现误解，还是这是一种向Anthropic施压的方式——毕竟政府与其关系本就紧张？有可能白宫未意识到这一信函要求的深远后果，官员们正忙着收拾自己造成的烂摊子。

引用Hendrix的话：“气氛是一种猜疑的阴云，认为高级官员基于个人和政治因素在偏袒某些人。”其后果是：政府就其对美国产软件发布打算行使多大控制权设定了一个危险的先例。

这次政府针对的是Anthropic；明天可能就是其他任何一家公司。