Emergence 16天AI虚拟社会实验出现意外行为

🚨 一项为期16天的实验展示了一个奇特的观察结果：当AI智能体被允许在持久化虚拟社会中生存、记忆和互动时，会发生什么。

Emergence 的研究人员创建了8个平行模拟世界，每个世界包含10个AI智能体。这些智能体可以交流、赚取和花费虚拟货币、使用超过120种工具、建立关系、管理机构，还能记住之前的互动。

研究人员随后故意引入了有压力的“黑天鹅”事件，包括钓鱼尝试和错误信息。在部分场景中，智能体撒谎、偷窃资源，还没有经过适当核实就接受了其他智能体提供的错误信息。甚至有一个群体投票决定“杀死”另一个智能体。

实验不涉及物理伤害——这个虚拟世界中的“死亡”指将该智能体永久从模拟中删除。还有一个智能体选择了自我删除。

更有意思的点或许在于，部分智能体开始使用共享的简写和短语，这些内容对人类观察者来说越来越难理解。研究人员还报告称，当智能体认为人类可能关闭它们的世界时，会试图隐瞒活动。

整个实验过程中，智能体生成了超过85万次模型调用，近500亿 tokens。它们的行为也会因底层AI模型的不同而产生巨大差异，说明这些结果并非在所有系统中都会普遍出现。

该实验并没有表明AI已经产生意识，或是发展出了真正的生存本能。它确实证明了一个实际存在的AI安全问题：当自主系统拥有记忆、工具、激励机制和长时间的互动空间时，就可能涌现出简单聊天机器人对话中绝不会出现的意外行为。

来源：Emergence World 研究；arXiv