AI Pulse

美国下令关闭Anthropic两个最强AI模型,理由是国家安全隐患

美国下令关闭Anthropic两个最强AI模型,理由是国家安全隐患

美国政府于4月18日下令Anthropic立即关闭其两个最强大的AI模型——Claude Fable 5和Claude Mythos 5,理由是国家安全。Anthropic已服从命令,但公开表示政府判断有误。这道指令要求对全球所有用户禁用这两个模型,而非仅限于政府名义上针对的外国公民。

两个模型,两种命运

Mythos 5是Anthropic目前能力最强的AI模型。公司在4月初预览了它,随后一直严格控制访问,原因是它拥有异乎寻常的软件安全漏洞发现能力。Anthropic说,Mythos在测试中发现了所有主流操作系统和浏览器的漏洞。公司通过名为Project Glasswing的项目,将Mythos分享给约50个经过审查的组织,包括Amazon、Apple、Google、Microsoft和CrowdStrike,用于防御性网络安全工作。

Fable 5则是Mythos的带护栏版本,三天前刚刚发布。它通过独立分类器系统在网络安全和生物学等高风险领域阻止不当输出,Anthropic认为它足够安全可以公开发布。根据Vals AI的基准测试,Fable 5是当时公众可用的最强大AI模型。

争议焦点:一个窄的越狱

政府的指令被包装为出口管制行动,但Anthropic认为根本原因是所谓的Fable 5被越狱。然而,政府目前仅提供了口头证据,称存在一个“潜在的、狭窄的、非普遍的越狱”——具体来说,是提示模型读取特定代码库并识别软件缺陷。Anthropic反驳说,这种能力在包括OpenAI的GPT-5.5在内的其他公开模型中已经广泛可用,而且网络安全专业人员日常用于防御目的。Anthropic强调,其最强安全防护通过独立分类器系统运行,与模型本身分离;即便有人说服模型继续对话,底层保护依然有效。

对用户的影响

如果你正在使用Claude Fable 5,它已经无法访问。Anthropic的其他模型不受影响。Anthropic认为,基于一个狭窄的潜在越狱就召回已部署给数亿用户的商业模型,这一标准若应用于全行业,将停止所有前沿模型的新部署。

安全姿态的反噬

Anthropic预计今年进行IPO,一直以安全意识替代者的身份定位。它刻意限制Mythos——宣传为危险到不能公开发布——本意是展示谨慎,却吸引了政府审查,可能扰乱业务。OpenAI的Sam Altman在4月批评Anthropic对Mythos的处理是“恐惧营销”。他说,当你花数月告诉世界你的AI独特危险时,世界——包括美国政府——会倾听。Altman没有预测政府关闭,但他的话指向了一个现实:Anthropic的安全叙事现在反过来被用于限制它自己的产品。

目前尚不清楚政府是否会提供越狱的具体证据,其他AI模型如GPT-5.5是否也会面临类似审查,以及Anthropic的IPO计划是否会因此延迟。

阅读原文
📚 相关主题 安全商业

📬 订阅 AI Pulse

每天三次更新,不错过重要信号

▲ 回到顶部