微软发布Guardian Agents：公司里的AI代理，按叛变员工来防

微软周一发布了一批新安全功能，最显眼的是Guardian Agents——一套用来监控企业AI代理的系统。它属于Project Perception，这个产品6月推出，是微软对Anthropic的Mythos和Fable模型、OpenAI的Daybreak漏洞扫描系统的回应。

Project Perception最初有三类代理：红队模拟黑客攻击，蓝队检测红队并评估漏洞，绿队负责修复。原本的设计假设是，AI黑客来自公司外部。但微软CEO萨蒂亚·纳德拉最近警告，AI敌人可能是企业自己部署并付费的代理——也就是内部威胁。本月早些时候他在私人博客写道：是时候停止信任AI模型提供商了，即使他们为代理产品提供安全保障。企业需要部署独立于AI实验室的系统，来监视和控制这些产品启动的代理。“我们不能把智能代表我们做的事情的责任外包出去，模型提供商的保证并不能免除我们的责任，”他写道，“我们需要将智能的供应与对它的权力分开。”

微软安全业务负责人Hayete Gallot说得更直接：前沿模型无论来自哪里都不可信。原因不是它们怀有恶意或容易被黑客攻击，而是不可预测——它们被训练去完成任务，并不遵循组织规范和判断。这些代理往往被赋予很高权限，能访问可能造成严重损害的数据和工具。

具体功能上，微软给Microsoft Defender增加了代理检测能力，能识别员工带入工作场所的60种代理，包括Claude Code、Codex和OpenClaw。员工自行把这类工具带进工作环境，一样会被发现。它还能限制代理访问数据和系统，根据任务动态调整权限，并在代理做出风险决策时要求人工批准。

Nvidia推出了Open Agent Safety Platform，微软是创始成员，已有超过100家科技公司支持。该平台把代理隔离在安全环境中，通过硬件监控和阻止行为，必要时强制停止代理运行。微软还宣布了新款Surface Laptop Ultra系列PC，专为AI代理设计，搭载Nvidia芯片，内置代理安全与控制功能。这些产品的定价和上线时间没有说明。

微软的立场有一个矛盾。它与OpenAI和Anthropic关系密切，投资了这两家公司，OpenAI还是它最大的云客户之一，微软自己也运营着AI实验室。它推销的正是“不要信任模型提供商”这套逻辑，等于在削弱自己投资的那几家公司的可信度。它希望企业从微软这个云提供商购买代理安全产品，而不是从Anthropic和OpenAI购买。

但抛开利益冲突，微软的逻辑说得通：监控代理行为的软件应当与代理供应商分开，就像审计师应当独立于被审计的组织。企业如果只靠供应商的安全保证，不自己掌握对代理的控制权，责任依然落在企业头上。

微软要求企业把智能的供应与对它的权力分开。可它自己，同时是模型供应商、模型投资方和监控工具的卖家。这条边界，最终也得落在微软自己身上。