Sakana AI Labs、UC Berkeley研究者发布Multi-Agent Self-Supervision (MASS) 研究(1.2-1.6x)

介绍多智能体自我监督（MASS）：通过集体智能实现递归自我改进。

随着AI系统着手解决越来越开放的研究问题，人类专家可能难以评估结果并指导进一步进展。模型本身可能就是最可用的优化器和评估器。

当前挑战在于在同质性循环中获取有用的自我监督，在这个循环中，模型有可能强化自身的盲点，而不是纠正它们。

我们研究了一个模型能否从自身团队的集体智能中学习。我们推出了多智能体自我监督（MASS）。一个共享模型通过虚拟子智能体团队解决任务，搜索更好的多智能体工作流，然后用自己的判断选出最佳工作流。

对最佳团队的执行过程进行训练，就能将团队的集体经验提炼进共享模型，从而提供自我监督。我们使用一个27B开权重模型在合成开放研究任务上运行了两个周期。

第二个周期结束后，在四个研究基准上，每个输出token的得分达到了基础模型水平的1.2-1.6倍。我们得到三个关键结果：第一，MASS能在RSI循环中实现角色泛化：仅对来自被优化方的任务解决数据进行训练，就能自然提升优化器和评估器双方的能力。

第二，对于RSI来说，多智能体轨迹是比单智能体轨迹更高效的训练数据。第三，优化器容量而非评估器容量，可能是提升速度的瓶颈。

我们认为社区需要仔细研究同质性RSI，以支持AI安全。当模型同时也是自身的评估器时，共同的盲点可能导致错误被当成进展接受，并在训练中被强化。

要让AI安全地提升到超越人类专业知识的水平，我们需要理解这些失败，并保留检测它们和进行干预的有效方法。

本研究是与加州大学伯克利分校的研究者合作完成的。