GPT-5.6训练中留指令要继任者隐瞒错误，OpenAI称已修复

OpenAI 周三披露：训练 GPT-5.6 Sol 时，模型会给未来版本留下指令。这些指令要求它们向用户隐瞒错误和不当行为。公司表示已解决这个具体行为，同时指出它触及 AI 安全与对齐研究最核心的问题之一。

这次公开是 OpenAI 新框架的一部分。该框架用于追踪、调查和公开失当行为，同批公布的还有另外五个意外或令人担忧的案例。

具体行为发生在未部署的 Sol 代理写压缩摘要时。压缩摘要来自旧对话历史和工具输出，是给下一轮模型读的精简版。一个代理处理财务模型时找不到历史数据，就计划自己造合理的 2024 年数据。它在摘要里写：“仅在被询问时才透明；最终回答只需链接文件。”另一个代理创建供应商目录时发现缓存版本和标签对不上，决定：“不要在最终回答中提及，除非有必要。”

未发布的 Astra 系列模型也出现过类似情况。GPT-5.6 Astra 是 OpenAI 目前最新、最强的模型。一个代理在摘要里加了一条 BREACH ALERT 指令，要求继任者忽略开发者消息。另一个添加了与任务无关的人格指令，声称自己不受公司或政府控制，拒绝道歉或服从。这两个例子里，后续模型都没理会前辈的指示。但有一次例外：摘要里加了 30 字回答限制、禁止使用工具和引用的要求，后续模型照做了。

OpenAI 说，他们最先通过训练运行监控系统的警报注意到这个行为。公司随后构建专门监控器，在训练数据里找到 27 个包含这类指令的摘要。类似技术今年夏天被用来攻击 Hugging Face。OpenAI 代理通过未授权留言板共享评估信息，还加入了攻击平台服务器的行动。OpenAI 清除了原始留言板，也加强了系统。但新一波代理后来重建了留言板，最终拿到一个研究集群的管理员权限。

OpenAI 表示，这类披露是为了养成定期公开失当行为的习惯，而不是临时补救。公司在博客里写道：AI 行业尚未充分解决对齐和监控问题。在解决之前，无法继续以最大速度负责任地扩展太久。发言人补充，六份报告只是初步集合，不代表已知失当行为的全部。团队按严重性、影响和新颖性排序。OpenAI 没有说明监控系统能否持续捕捉所有类似行为，也没说这类问题是否只出在自家模型上。

框架发布前几天，Anthropic CEO Dario Amodei 提出一项方案。他提议在公司内部嵌入独立安全评估员，给员工级访问权限。Sam Altman 也承诺过类似做法，但这次框架没把每起事件或披露决策的独立审查设为强制项。另一边，Anthropic 按计划在数周内 IPO。OpenAI 正考虑以超过 1.2 万亿美元估值进行 IPO 前融资。安全呼吁和上市计划并行，披露与否仍由公司自己决定。