不反对开源模型，但怕中国用AI造生物武器——Anthropic CEO的警告

不反对开源，但有一个前提

Anthropic CEO Dario Amodei 明确表态：公司从没主张过禁止开源权重模型。没有危险能力的开源模型是公共产品——除了运行需要算力，对开发者、企业和研究人员都有用。问题在于：到底什么样的模型才算“有危险能力”。

Amodei 的担忧集中在两个方向。一是威权政府，尤其是中国，可能造出比美国更强的模型，用于永久军事优势或压迫人民。二是AI会促成生物攻击，不只网络安全攻击。开源权重模型在这些场景下更危险——无法加护栏，也监控不了使用。他引用英国AI安全研究所的报告：开源权重一旦发布就收不回来。

两条路径：卡芯片与全球检测

Amodei 建议限制中国获取强大芯片，并正式打击蒸馏——一种通过大量提示学习模型行为的技术。行业内部也在辩论，中国AI实验室是否通过蒸馏窃取美国知识产权。

他同时支持建立全球模型安全测试组织，包括中国参与。他认为围绕防止AI生物武器有限合作是可能的，因为这符合中国自身的利益。

争议背后：开源阵营拉响警报

对比鲜明的是，Nvidia CEO 黄仁勋联合 Hugging Face、Meta、Microsoft、Mistral 等多家公司发公开信，呼吁政策制定者不要对开源AI模型施加过早限制。这场争论的核心问题：你将来能用上什么样的AI。

如果你依赖开源模型做应用，短期内不会因为Anthropic的立场就被全面限制。但安全担忧一旦影响政策，开源模型就可能面临更严格监管。美国加强芯片出口和蒸馏管制的话，中国AI产品的性能和可用性都会下降。全球安全测试组织如果建立，所有模型发布前都得评估——更安全但也更慢了。

目前没有明确说明“危险能力”的具体界定标准，全球测试组织能否真正获得中国参与也尚不可知。