AI Pulse
🔥 热点深度解读

OpenAI邀外部专家查安全,权限却被前员工指缩水

不少人用AI工具时,默认背后有一套安全机制在兜底,防止模型做出危险操作。但这套机制到底靠不靠谱,一直是个黑箱。

OpenAI最近宣布,正与Apollo Research、METR、Transluce AI、Goodfire AI四家机构合作开展嵌入式评估——简单说就是请外部专家深入内部,检查模型对齐情况、测试安全防护措施。按照OpenAI的说法,外部专家能接触到模型检查点、训练数据、源代码、监控系统等核心内容,其中METR还会研究OpenAI迄今为止规模最大的强化学习运行项目。

这套模式不是第一次试。2026年夏季,METR与Redwood Research就曾受邀在OpenAI开展为期三周的试点评估,两名评估人员现场办公,专门检查OpenAI监测内部智能体对齐偏差的系统。当年10月22日,评估团队公开成果,确实发现了监控系统的漏洞,这些发现也帮OpenAI补强了后续的安全防护。

但这次新合作的权限范围,引来了不少质疑。

@SydneyVonArx 认为:Sam Altman曾承诺给第三方评估者员工级别的系统访问权限,但这次的安排显然不是,OpenAI似乎在赌没人会仔细核对细节。

@balesni 提到:自己离开OpenAI那周,亲眼看到外部审计人员还在和公司谈判,争取一点点改善访问权限和安全相关信息的范围。

@tomekkorbak 也指出:和之前与METR的合作相比,这次四家第三方合作的形式,在很多方面其实是一种倒退。

OpenAI此前提出过第三方独立评估的原则,要求通过“灰盒”访问模式——也就是介于完全公开和完全保密之间的权限——检验安全防护措施能不能扛住对抗测试,以及在网络、生物等高风险领域的防护效果。但从目前的反馈来看,外部专家拿到的权限,离当初承诺的深度还有不小差距。

对普通使用者来说,这件事的影响其实很直接:日常调用的AI工具,安全防护到底有没有经过足够严格的外部检验,直接关系到使用时的风险。如果外部评估只能摸到表层,那所谓的“安全背书”,含金量就要打个问号。

当AI能力越来越强,安全检查的权限边界到底该划在哪?是该给专家足够深的访问权限,还是要守住商业机密的底线?这个问题,目前还没有标准答案。

📎 参考来源

查看原始推文

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新