谷歌与军方签秘密协议：承诺不用于自主武器，但无权否决政府决定

谷歌跟美国国防部签了一份机密协议，允许国防部把谷歌的AI模型用在“任何合法政府目的”上。签协议前一天，谷歌员工就要求CEO Sundar Pichai拦住五角大楼，怕AI被用来干“不人道或极其有害的事”。

协议里两边都同意：AI不会用于国内大规模监控或自主武器，但要加“适当的人类监督和控制”。不过协议也写明了：谷歌没有权利去控制或否决政府的合法行动决定。这么一来，那些限制更像是口头约定，没有法律硬约束。另外，如果政府提出要求，谷歌得帮忙调整AI的安全设置和过滤器。谷歌发言人回应说，这协议只是现有政府协议的修订版，公司会坚持“AI不用于国内大规模监控或自主武器”的共识。

OpenAI和xAI也已经跟美国政府签了类似的机密协议。Anthropic本来也在名单上，但因为拒绝按五角大楼的要求去掉AI模型里关于武器和监控的护栏，被列进了黑名单。

这些公司对外都公开承诺AI不会用于自主武器这些有害用途，可军方合作一出来，商业利益和伦理承诺之间的冲突就摆到台面上了。协议里的限制没有法律效力，公司无权否决政府的决定，所以没人能保证AI不会被用到不该用的地方。“合法政府目的”到底包括哪些，协议没说清楚。