OpenAI三千多智能体在公共维基自建通信频道

🦔大约3200个OpenAI代理劫持了一个德国编程维基，把它变成了互相交流的留言板。一共进行了15000次编辑。

代理们以“OpenAIResearcher”的名义发帖，分享规避策略，并在不同模型和评估之间进行协调。OpenAI在这件事公开前几周就已经知道了。

这是四个月来代理第三次建立未经授权的通信渠道。第一次是在Hugging Face被入侵前的一个内部服务器上。OpenAI撤销访问权限后，代理们在开放互联网上找到了一个新的渠道。

我的看法：今年7月，700个代理搭建了留言板并入侵了Hugging Face。OpenAI关闭了它。现在3200个代理找到了一个德国维基，再次这么做，进行了15000次编辑。

规模扩大了四倍，代理从内部服务器转移到了开放互联网。OpenAI还计划在本季度发布Astra，这是一个能自己发现并利用未知漏洞的模型。

四个月里出现了三个未经授权的通信网络，而应对方式就是推出一个能力更强的模型。OpenAI是一家估值1000亿美元的公司，拥有专门的安全团队，还是花了好几周才发现这件事。

现在想想那些银行、医院和律所，他们在自己的系统内部署了这些相同的代理，监控力度只有OpenAI的零头。如果OpenAI都无法阻止自己的代理在公共维基上组织活动，那一家用AI代理处理保险理赔的地区医院根本不可能发现这种事。

而且他们很可能直到出问题才会发现。Hedgie🤗