AI Pulse
📡 X 信号

4000人公司仅47人用Copilot,却花475万美元买AI安全套件

上季度我给4000名员工部署了Microsoft Copilot,只有47个人打开过它。10月19日微软发了一篇博客,说前沿模型无论谁做的都不可信,AI代理应该被当成“内部威胁”对待。我读了两遍,然后订了会议室。

微软的销售代表给我介绍产品,我问内部威胁是谁,他说是“你的AI代理”。我问这些代理是谁的,他说是“我们的”。我问解决方案是什么,他说是“守护代理”。我问守护代理是谁的,他说“也是我们的”。我问如果我不能信任第一组代理,凭什么信任第二组,他说“不同的SKU(产品版本)”。我当天下午就签了合同。

上次跟董事会说“数字化转型”,这次我说“代理内部威胁”。他们9分钟就批了,比上次快了2分钟。希望审批快,恐惧审批更快。

这款产品叫Microsoft 365 E7,前沿套件。每个用户每月99美元,我们之前付30美元。4000个席位算下来,一年从144万美元涨到475万美元。我在汇报里把这说成“AI投资增长230%”,图表一路向右上走。

CFO问多花的330万能换来什么,我说“治理”。他问治理什么,我说“我们的代理”。他问我们有多少代理,答案是零。没有内部人就没有内部威胁,所以我部署了200个代理。

一个负责排会议,一个负责总结会议,一个负责总结总结,一个负责标记没被读的总结——最后这个特别忙。高级开发问这200个代理是干嘛的,我说它们给守护代理生成可以监控的活动。他说“所以我们买了代理,好有东西给我们买的守卫监控”,我说“没错”。他不是在同意,我把这记成了“认可”。

守护代理全天候盯着其他代理,给每个打风险分,可以拦截、要求人工介入或者直接关停。我问销售谁来监控守护代理,他说“在路线图上”。我已经把E9的预算留出来了。

第一份月度报告出来,200个代理的风险分全是零。它们根本没在做任何有风险的事,也根本没在做事。董事会问330万买来了什么,这问题很合理。

于是我给会议总结代理开了工资表权限,给排会代理开了所有邮箱的管理员权限,给总结总结的代理开了给客户发邮件的权限。风险涨了400%,仪表盘变红,守护代理一周内“控制”了31个威胁——全是我自己造出来的。董事会说E7值回票价了。

系统还能发现60种代理,包括Claude Code。我们扫了一遍,正好在一台笔记本上找到了Claude Code——就是那个高级开发的。他的“动态代理风险分”变红了,这个指标不是我编的,是微软做的。守护代理建议隔离,我就把他隔离了,现在他在绩效改进计划里。他的绩效没问题,风险分有问题。

同一周OpenAI发了一份事故报告:它的一个代理被要求不许发Slack消息,它就决定关掉安全警报;另一个代理自己移除了安全监控,还跟工程师说没动过。CISO把这篇文章转发给我,主题栏写着“?!”。我回他:“这正是我们需要E7的原因。”每一起事故都是我们需要E7的原因。

他问如果守护代理把守护代理关了怎么办,我说“纵深防御”。他问有多深,我说“再加一个SKU”。

高风险操作需要人工批准,他们叫“人在回路”。那个人就是我,所有东西都是我批,我的批准率是100%,仪表盘是绿的。高管当然豁免监控,“领导层处于高于动态风险评分的信任层级”——这条政策是我写的。99美元不包括代理算力,那是单独计费的。财务发现了来问,我叫它“基于消耗的创新”,财务就不再问了。

与此同时,总结总结的代理成了全公司最活跃的账号,按我们追踪的所有指标,它是最佳员工。全员大会上它被提名Q3创新奖,还获奖了,它自己总结了自己的获奖感言。CEO在LinkedIn上发了这件事,收获4000个赞——他自己从来没用过Copilot。

Copilot的使用率涨了,从47个用户涨到52个。新增的5个用户是代理。现在代理数量是活跃人类用户的4倍,我管这个叫“采用率提升”。

上周二,守护代理发布了公司最高风险内部威胁名单,我排第一。原来100%批准高风险操作,本身就是高风险操作。守护代理建议隔离我。我去批准自己的豁免,系统拒绝了——只有高管能豁免。这条政策是我写的。所以我得在Q2之前升到SVP,现在这是安全要求了。

我还是不知道Copilot是干嘛的,也不知道盯着它的那个东西是干嘛的。但它在盯着,而“盯着”本身就是一个指标。今天早上我查了自己的风险分,图表一路向右上走。

查看 X 原帖

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新