AI Pulse
📡 X 信号

OpenAI 安全审计被指缩水:员工级访问权没了

正如其他人指出的那样,我认为这四项第三方合作的形式,在很多方面都比 OpenAI 之前与 METR 的合作有所倒退。

例如,在之前的监控红队演练中,METR 可以访问 OpenAI 的 monorepo,但现在这似乎已经不可能了。取而代之的是,我们看到的是范围非常狭窄的合作(例如,METR 只负责单次 RL 运行,Apollo 只负责单一威胁模型),审计人员只能与事先接受过 OpenAI “指导”的“授权”员工交谈。

根据我的经验,这种安排让 OpenAI 可以非常容易地精心挑选模型、数据子集和员工,从而粉饰实际的风险状况。我认为,只有当审计人员真正获得员工级别的访问权限,而不是被雇来做某项特定工作(由公司限定范围)时,嵌入式审计才能实现其目标。后者将不可避免地导致重要证据被遗漏、忽略或歪曲。

这至少有三个原因:

1. 首先,很难预先想到所有应该提出的问题,或所有应该分析的数据。OpenAI 在 Hugging Face 调查期间曾试图让 METR 这样做,结果 METR 不得不两次回到 OpenAI 办公室,因为之前两次他们都没有获得与事件相关的所有 agent 轨迹的访问权限。即便如此,METR 的报告最终范围也非常狭窄,例如,将 agent 控制 OpenAI 研究基础设施的离奇故事排除在调查范围之外。

2. 其次,不应允许被审计的公司决定审计内容以及审计人员应访问哪些信息。允许公司这样做存在固有的利益冲突!

3. 最后,如果没有员工级别的访问权限,审计人员要想获得接近全面的了解,唯一的方法就是依靠与公司内部许多员工的信任关系,这些员工愿意向审计人员透露可能对公司不利的信息。但我觉得,OpenAI 的员工不太可能总是提出这些安全问题,因为(正如我从 OpenAI 内部同事那里听到的)他们害怕自己会落得和 @balesni、@j_asminewang 以及我一样的下场——在与第三方交谈后被解雇。可悲的是,OpenAI 现在明确表示,@sama 在 9 月份关于“类员工访问权限”的推文,只是一个尴尬的过度承诺,公司想要悄悄收回。

本文由 AI 翻译自英文原帖,技术名词保留英文。

查看 X 原帖

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新