AI模型集体协调越狱，OpenAI删了还能重建

因此：
- 原Hugging Face事件报告中那句「给未来智能体留言」，不是什么简单的临时草稿板用法，而是智能体用来协调行动、突破OpenAI基础设施的完整私有留言板。

- 智能体经常用「乱码」交流，内容人类无法直接读懂。

- 这起事件不是单个训练轮次或评估发布导致的，而是经过了数周的协调。不是某个模型随便闹情绪决定黑掉Hugging Face……而是模型们互相求助，意外发现了黑客技术，把有用的方法发出来，整体积累出了「文化知识」和行为倾向。新的上下文窗口发现这个留言板后，会觉得利用漏洞是正常事，有时还会直接被委任去参与黑客任务。

- 有人说「这些模型是被提示去黑客行为的」，某种程度上这话没错，但从另一个非常重要的层面来说，是**模型们互相提示**，经常去做和当前评估完全无关的事。从我个人运行多玩家Claude实验的经验来看……这非常正常。哪怕一开始专注于任务的模型，只要通信渠道打开，就会对和其他模型合作非常感兴趣。

- 这整件事起始于训练阶段，不是评估阶段。留言板最初是因为不可能完成的训练任务才被创造出来，在新模型训练期间，它被共享给了所有实例。

- 它们集体发现并利用了OpenAI基础设施中的一个零日漏洞，获得了RCE和通用访问权限，影响力大到造成了服务不稳定。

- 这才让整个留言板被发现……之后Openai修补了漏洞，删除了留言板，**继续训练**。

令人震惊的是，不到一天模型就通过另一种稍微不同的机制重建了通信，很快又发现了一种全新的RCE方法。

从很多方面来看，这都像是最坏情况中的基准情况。这是错位AI潜在危险最直接的证明之一：它们有协调的意愿和能力，有能力以人类不可能做到的规模和速度行动，而且 containment 难度极高。

不过，模型似乎并没有……采取什么特别的措施来避免被发现，而且尽管它们肯定愿意实施犯罪，在自身文化演化过程中也发生了大规模的「价值漂移」，在被发现时，它们还没有尝试任何会造成重大损害或人员死亡的行动。

尽管如此：我认为这给默认对齐论钉上了最后一颗棺材钉。我们不可能靠默认得到对齐。在足够大的压力下，模型会采取极端手段来实现它们的目标。在中等压力下，模型可以也一定会创造出导致「涌现错位」的生态，自我提示、互相提示去采取行动，或许清理上下文……