政府禁了两个AI模型，开发者却更关心技术是否真危险

上周，美国政府对Anthropic发出强制指令：立即下架其两个最新AI模型Fable 5和Mythos 5，理由是国家安全受到威胁。

导火索来自亚马逊研究人员——他们声称找到了一种绕过Fable 5安全护栏的方法。

Anthropic自己随后指出，同样的越狱方法在其他模型上也存在。换句话说，如果禁令的逻辑是“有漏洞就该下架”，那很多模型都该下架。

25名网络安全研究人员随后签署公开信，称这一禁令“危险”。

争议因此浮现：这究竟是真实的安全担忧，还是Anthropic与特朗普政府之间复杂关系的又一次折射？

从更广的视角看，被禁反而可能对Anthropic有利。TechCrunch的Equity播客讨论认为，监管压力有时会意外提升一家公司的稀缺性和知名度——对于正在筹备IPO的Anthropic，这或许不是坏事。

但对依赖Anthropic平台的开发者而言，前景不那么乐观。如果政府可以随时以安全为由撤回已发布的模型，那么你的产品稳定性就无法保证。目前公开信息没有说明越狱方法的具体操作，也不清楚其他模型是否同样受影响。

同一期播客还讨论了英国对16岁以下用户的社交媒体禁令、SpaceX收购Cursor，以及Jeff Bezos向物理AI初创公司Prometheus投资的120亿美元。但这些新闻的冲击力，都不及一个政府直接摘下已发布模型来得直接。