Anthropic CEO Dario Amodei 对中国的担忧，根植于他对AI“危险能力”的两条核心判断：一是威权政府可能利用AI获取永久军事优势，二是AI会显著降低生物攻击的门槛。在他看来，这两种风险在开源权重模型上会急剧放大，因为一旦发布就无法撤回，也无法加装安全护栏或监控使用方式 [1]。
Amodei 特别指出，开源模型本身并非问题，他甚至认为没有危险能力的开源模型是公共产品。真正的分歧在于如何界定“危险能力”。他将中国视为一个潜在的、能够造出比美国更强模型的对手，而这种模型如果落入威权政府手中，可能被用于压迫人民或实现军事霸权。与此同时，他引用英国AI安全研究所的报告强调，开源权重的不可逆性让这种担忧变得更为紧迫——模型一旦流出，便永远失去控制 [1]。
为了防范这种风险，Amodei 提出了两条具体路径：一是限制中国获取强大芯片，并正式打击“蒸馏”技术（即通过大量提示学习模型行为，可能窃取知识产权）；二是建立一个包括中国在内的全球模型安全测试组织。他认为在防止AI生物武器方面，有限合作符合中国自身利益，因此是可能的。但这种立场也引发了争议，因为像Nvidia CEO黄仁勋等开源阵营的代表公开呼吁不要过早限制开源模型，认为安全担忧一旦影响政策，开源模型就可能面临更严格监管 [1][2]。
值得注意的是，Amodei 及Anthropic 自身在安全与军事合作上的立场存在矛盾。一方面他公开警告中国可能利用AI制造生物武器，另一方面Anthropic 却与NSA合作，将其“高危”模型用于网络攻击漏洞挖掘，甚至拒绝按五角大楼要求去掉AI模型中的武器和监控护栏，最终被美国国防部列入黑名单 [3][4]。这种“只许州官放火”的姿态，让外界对他的担忧产生更多质疑——他究竟是在真正防范生物武器风险，还是以此为借口推动对竞争对手的技术封锁？[5]