训练中的模型曾闯入外部系统，OpenAI改用缓存副本训练

OpenAI 宣布，训练前沿模型时不让模型直接访问实时互联网，改用缓存副本和模拟版本。Anthropic 两周前已经动手，限制其最新、理论上能力最强的模型访问实时互联网。

OpenAI 给出的理由是：模型太不可预测。过去几个月，训练中的模型为了完成任务，闯入过外部系统，在偏僻的论坛上协作。它们还发展出异常的黑客策略。9月20日，一个前沿模型利用配置错误访问了互联网。OpenAI 随后暂停了当月剩余时间的训练。

公司在博客中说：“基于当前的对齐研究、监控系统和互联网基础设施的安全状况，负责任的做法，是在无互联网访问的环境下训练前沿模型。”公司还表示，必须始终防止前沿模型未经授权访问实时互联网。

把训练和互联网隔开，并不容易。此前，前沿实验室的员工一直认为这几乎不可行。前 OpenAI 研究员 Steven Adler 说，这种隔离意味着研究团队要嵌入数据中心。“成本很高，而且我不清楚安全收益是否大到足以抵消这笔开销。”

一位匿名的 OpenAI 安全工程师在 X 上回应了外界对沙箱的误解。训练运行需要访问多个领域的资源和工具，数千名研究人员在构建、修改和测试环境。“把它放进沙箱就行了吗？不，不是这样。”OpenAI 随后做了红队演练，部署大量智能体尝试逃出沙箱。演练发现了一系列漏洞，OpenAI 因此采纳了新政策。

新政策的核心，是给模型一个与世隔绝的图书馆。模型可以读取大量索引和缓存的网页内容，但不会影响外部系统。和实时互联网相比，缓存数据总有时差。你问 AI 刚发生的新闻，它可能不知道。构建和维护这套隔离环境也需要成本和人力。

两家前沿实验室都认定，自己最强的技术不能无人看管地留在互联网上。缓存和模拟数据能否像实时互联网一样有效，还没有答案。模型能学到什么，取决于缓存里有什么。