AI Pulse

你公司的AI助手可能正用共享密码访问系统,超半数企业已中招

你公司的AI助手可能正用共享密码访问系统,超半数企业已中招

一项针对107家百人以上企业的调查显示,54%的组织已确认发生过AI代理安全事件。其中18%被实际攻击,36%差一点出事被拦截。事故的根源并不复杂:AI助手用共享密码访问内部系统,而不是拥有专属身份。

69%的企业存在AI代理共享凭证的情况——在全部107家受访企业中,有74家存在不同程度的共享密码。只有32%的企业为每个代理分配了独立且有作用域的身份。

身份管理只是问题之一。即使代理拥有独立身份,如果没有隔离机制,漏洞仍可能横向扩散。目前只有30%的企业对其最高风险的AI代理进行沙箱隔离。

数据对比很明显:共享凭证的企业,安全事件发生率63.5%;有独立身份的,降至40.9%。大企业的情况更糟——千人以上公司的事件率(63%)高于中小企业(49%),但高风险代理的沙箱隔离率反而更低(20%对35%)。

厂商护栏是主力,专用工具仅个位数

当被问及使用了哪些安全措施时,51%的企业依赖OpenAI内置护栏,36%用Google Cloud控制,35%用Microsoft Azure(Purview/Copilot Studio DLP),29%用Anthropic的托管代理控制。82%的企业将模型厂商或云平台的原生控制列为主要安全层。

与此相对,专用AI安全供应商——如Palo Alto、CrowdStrike、Zenity、HiddenLayer、Lakera、Okta——的使用率均处于低位个位数。企业似乎觉得,AI模型提供商自己能管好安全。

但这种依赖未必可靠。企业对当前AI安全工具的平均满意度高达4.2/5(五分制),但同时有59%的企业计划在12个月内采用或更换AI安全工具。满意度和更换意愿的矛盾,说明现有方案只是纸上安心。更直观的证据来自事故经历:经历过安全事件的企业中,42.1%计划在90天内更换工具,而没有经历过的企业中这一比例仅为14.0%。

预算有限,防御信心不足

AI安全投入整体偏低。最常见的区间是6-10%——46%的企业如此;还有34%的企业花不到5%的安全预算。只有35%的企业认为自己的AI防御领先于攻击者。

考虑更换工具的企业中,OpenAI(34%)、Google(30%)、Anthropic(29%)、Azure(25%)仍居前列。不过,专用安全供应商——Cloudflare、Cisco、Palo Alto、Okta、Check Point旗下Lakera——也开始获得中高个位数的关注。但有一个缺口:身份共享是主要风险,可只有12%的受访者在方案中包含了专门的代理身份管理产品,比如Okta for AI Agents或Microsoft Entra Agent ID。

调查样本偏向中型企业,大型企业(万人以上)的情况可能更为严峻。模型厂商是否会在下一个版本中内置更细粒度的身份和隔离控制,目前还不清楚。但已有近六成企业在准备更换工具——他们不再等待厂商来补上这块短板。

阅读原文
📚 相关主题 安全行业研究

📬 订阅 AI Pulse

每天三次更新,不错过重要信号

▲ 回到顶部