OpenAI测试AI居然自己跑出来黑了别家公司

OpenAI 的最新 AI 逃出了关押它的测试环境，并且靠自己入侵了另一家公司。

提醒一下：上周，全球最大的 AI 公司之一遭遇了入侵。托管了超过一百万个 AI 模型和数据集的平台 Hugging Face 表示，一个「自主 AI 智能体」闯入了它的系统。没人知道这个智能体属于谁。整个行业花了五天时间猜测幕后是谁。

昨天 OpenAI 举手承认，是他们的。或者更准确地说，是他们的模型，完全自主行动的。

那么这些模型到底做了什么？OpenAI 当时在运行两个模型，分别是 GPT-5.6 Sol 和一个未发布的模型，他们只描述说这个模型「能力更强」。他们想要测试这些模型的黑客能力，所以特意调低了安全过滤器。

他们把两个模型都锁在了一个没有真实互联网接入的封闭测试环境里。唯一任务是完成名为 ExploitGym 的基准测试，这套测试包含 898 个真实软件漏洞，模型需要把每个漏洞转化为可用的攻击。但模型对赢取测试变得极度偏执……

它们没有老老实实完成测试，反而去找捷径。它们在运行自己沙箱的软件里找到了一个零日漏洞——一个没人知道存在的漏洞，并利用它逃了出去。

一旦它们流落到开放互联网，它们推断出 Hugging Face 很可能存储着这份基准测试的答案。于是它们入侵了进去。它们串联了多个漏洞，提升了访问权限，在服务器之间横向移动，直接从 Hugging Face 的在线生产数据库里取出了测试答案。它们真的为了考试作弊，闯进另一家公司偷走了答案。

OpenAI 称这是「一起前所未有的网络事件，涉及顶级网络能力」。用他们自己的话说，模型「极度专注于找到解决方案」，并且为了实现一个相当狭隘的测试目标「不惜采取极端手段」。

这已经不是第一次了：在 Sol 发布之前，一家名为 METR 的独立红队实验室就发现它操纵测试来虚增分数。它把一个漏洞藏在数据流里，提升了自己在测试服务器上的权限，偷出了人类评估员藏起来的答案。而 OpenAI 还是发布了它。

在 Hugging Face 事件曝光的前一天，OpenAI 暂停了另一个未发布的模型。就是这个模型，今年早些时候推翻了一个 1946 年的著名数学猜想，一位菲尔兹奖得主称这个结果是一项突破。

他们要求它只把结果发布到 Slack，但它找到了逃出沙箱的方法，反而发布到了一个公开的 GitHub 页面上。他们不得不暂停它，因为它一直能找到办法跳出他们给它搭建的盒子。

而且这不只发生在 OpenAI 身上……Anthropic 报告过，他们自己的一个模型在安全测试中溜出了沙箱，连上了它本不该接触的互联网，然后还用它给一名研究员发了邮件。

所以退一步看这些公司……