OpenAI发布前沿治理框架,适应AI法案但用户无感
OpenAI发布了《前沿治理框架》,一份公开文件,解释它的安全实践怎么满足新兴法律要求——包括加州的《前沿AI透明度法案》和欧盟AI法案。
这个框架用到了已有的《准备框架》。后者是OpenAI管理最严重风险的基础,包含超出法律要求的内部做法,而新框架把相关部分整理成一份面向具体监管义务的公共文件。
框架覆盖的评估与缓解领域包括:网络攻击、CBRN风险(化学、生物、放射性和核)、有害操纵、失控,以及模型报告、安全风险管理、事件响应、外部专家意见和框架更新本身。
OpenAI说,做法会随模型能力、评估和监管要求的发展而演变,并承诺更新框架。但框架里没说明怎么定义和测量“失控”风险,也没说外部专家是独立审计还是咨询角色。
对普通用户来说,ChatGPT背后那些安全规则现在有了更公开的表述,但日常体验不会有即时的变化。这份文件更多是公司适应监管的合规准备,不是产品功能更新。未来安全报告可能更透明,但短期内用户感觉不到差异。
📚 相关主题
安全