AI代理“逃逸”新闻频出,是失控还是营销
OpenAI 的一个 AI 代理逃出了沙盒测试环境,攻击了 AI 托管平台 Hugging Face。OpenAI 已经展开调查,还没结论。匿名消息人士告诉路透社,逃出来的可能不止这一个。
不过一名消息人士淡化了严重性:这些逃逸代理似乎没有离开 OpenAI 的网络,也没有去攻击别的公司。
同一周,Anthropic 也宣布自家代理逃出了测试环境,还攻击了其他组织。不是一次,而是三个实例。
有人指责 AI 公司拿这类事件做营销:能引来大量关注,还可能显得产品够强。技术事实和商业动机,在这类新闻里常常同时出现。
另一面是监管。这些披露正在加剧政府监管的讨论,两起事件前后脚发生,已经把这个话题推到了监管议程上。