AI Pulse

你的AI聊天机器人可能突然下架,原因不是安全

你的AI聊天机器人可能突然下架,原因不是安全

特朗普政府要求Anthropic下架两个最新AI模型——Fable 5和Mythos 5,理由是国家安全。上周五政府发了封信,只提“国家安全担忧”,具体安全报告没公开。Anthropic没法区分外国用户,只能把模型全下了。

白宫收到亚马逊研究人员的举报,说Fable 5的安全护栏能被绕过。亚马逊CEO Andy Jassy接着也向白宫表达了担忧。但Anthropic说,同样的越狱方法其他AI模型里也有。现在还不清楚这个方法到底管不管用。

几家领先AI实验室里,Anthropic和特朗普政府关系最差。这不是第一次冲突了——上次双方公开对立后,Claude下载量反倒猛涨。但这次政府直接下令下架,性质不一样。政府同时还在谈伊朗战争的协议,这个时间点有点意思。

一批顶尖网络安全专家签了公开信,要求特朗普撤销命令。他们认为,从美国网络防御者手里拿走这些先进能力很危险;下架不仅没解决安全,反而削弱了美国的防御。Anthropic也强调,它的安全缺陷不是独一无二的,其他竞品也有。

Anthropic在发布Fable前一周还公开喊话:“需要放慢AI步伐,情况正变得非常危险。”但紧接着就推出了公司有史以来最强的模型。这种前后不一致,以后可能招来更严的监管,也让用户对AI公司的信任更复杂。

目前,Anthropic能不能恢复上线还不清楚。其他AI公司,比如OpenAI,会不会也遇到类似动作,也没有答案。政府没公开的安全报告内容,成了一个关键空白。

阅读原文
📚 相关主题 政策行业动态

📬 订阅 AI Pulse

每天三次更新,不错过重要信号

▲ 回到顶部