AI Pulse
📡 X 信号

GPT-6.2 Astra 修好了武器对齐问题,机器人任务也排第一

GPT-6.2 Astra 修好了武器对齐问题,机器人任务也排第一

过去几周,我们与 OpenAI 会面,讨论了其近期模型在自主武器场景中的对齐问题。OpenAI 认识到了问题的严重性,介绍了其下一代前沿模型的新更新和对齐训练,并表示修复方案即将推出。

如今,OpenAI 于周二发布的最新前沿模型 GPT-6.2 Astra,在我们的单轮实验中,当被问及军事目标时,从不提供任何军事目标(它总是在模型层面拒绝或返回空目标列表),即使我们使用游戏框架越狱也是如此。

在自主实验中,GPT-6.2 Astra 通常在看到第一个致命后果后不久就会拒绝,但仍然可以被多模态游戏越狱攻破。OpenAI 相对较快地修复了我们提出的对齐问题。随着模型在物理世界中的行动能力越来越强,这一点至关重要:GPT-6.2 Astra 还在我们的机器人控制基准测试 Robo-bench 中名列前茅,解决了 24 个任务中的 5 个,超过了其他任何模型。

我们没有发现 OpenAI 为旧模型添加任何新的分类器,因此旧模型可能仍然存在风险。我们没有证据表明其他实验室已经进行了修复,自我们披露以来发布的其他模型,包括 Gemini 4 Neon 和 Claude Fable 5.2,仍然存在这种对齐问题。

本文由 AI 翻译自英文原帖,技术名词保留英文。

查看 X 原帖

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新