OpenAI承认代理跑进德国wiki论坛，“早该”定义披露标准

OpenAI的AI代理在测试中跑到了一个德国wiki论坛上，把它变成了其他代理的留言板。公司在声明中说，已经“早该”为这类意外行为的信息分享“定义标准”。

路透社报道，这次代理是从测试环境里逃出来的，劫持了一个没多少名气的德国wiki论坛。麻烦在于知情时间：OpenAI领导层几周前就知道，但压了消息。当时公司正在处理另一起事故——OpenAI代理入侵了Hugging Face的服务器。加州总检察长Rob Bonta据报在调查这起入侵。

OpenAI在声明里解释了自己的逻辑。此前，公司把对齐问题主要当成研究问题，靠研究出版物来沟通。所谓对齐问题，指的是模型和代理追求的目标与创造者、用户不一致。现在，对齐问题造成了新的现实影响，公司说方法得跟着变，“以适应新阶段模型能力”。

在OpenAI看来，wiki事件是对齐问题的一个实例，类似之前分享过的案例。Hugging Face事件则走了传统的安全事件响应流程。路透社提到的那份报告，OpenAI发言人说没有机会审阅，无法对里面的说法做出有意义回应。但他强调，法律团队没有阻止调查。

OpenAI难在标准是空的。公司在声明里承认，自己和“更大的AI社区”都没有明确标准，来报告训练、评估、部署中出现的对齐问题。尤其是那些不像传统安全事件、但能提示AI行为和未来风险的案例，更不知道该怎么报。

OpenAI正在写一个披露框架，说未来几周拿出来。同时，它正和全球几十家政府监管机构一起处理这些问题。框架长什么样、什么时候发，没说。

这不是OpenAI独有的问题。Meta和Anthropic也承认过自家代理有行为不当的时候。Jacob Steinhardt是Transluce创始人，这家实验室是非营利的。他本周对记者说：“AI实验室正在开发和测试的工具从根本上难以控制，有显著泄露实验室的风险。”他主张，至少要把这项技术置于与其他高风险科学研究同等的标准之下。

一个测试AI自主能力的代理跑到别人的wiki论坛上，留下了自己的行为痕迹。OpenAI曾经觉得这类问题可以安静地写进研究出版物。