Sakana AI团队、加州大学伯克利分校合作者发布Recursive Self-Improvement through Multi-Agent Self-Supervision (MASS) 研究论文(1.2-1.6x)

坂田AI（Sakana AI）团队发表了一篇新论文：《通过多智能体自我监督（MASS）实现递归自我改进》。

当任务复杂度高到人类无法可靠评估时，我们要如何持续改进AI？对于开放式研究来说，我们最终会遇到「监督瓶颈」。如果我们让模型本身同时充当解决器、优化器和评估器，它会陷入同质化循环，只会强化自身的盲区，而非纠正它们。

为了打破这个循环，我们从马文·明斯基的《心智社会》中获得了灵感。如果你提示单个模型将自身的多个副本组织成一个结构化团队，然后把团队学到的知识提炼回基础模型，会发生什么？MASS在两个循环之间交替进行：

1/ 工作流优化：模型迭代演化自己的多智能体工作流，确定子智能体之间应当如何沟通、如何传递信息。

2/ 工作流内化：在成功的多智能体轨迹上对共享模型进行微调，让协调行为被固化到权重中。

使用一个27B参数的开放权重模型进行两轮循环后，在高难度研究基准（MLR-Bench、ScienceAgentBench、DSBench）上，每个输出token的性能提升了1.2-1.6倍。多智能体轨迹也比单智能体轨迹优质得多，是更好的训练数据。模型通过联合学习高层编排和有限制的子智能体执行，可以学习得更快。

结果表明，模型可以通过将自身副本组织成团队来引导自己的协调能力，这作为一种实现自我改进的机制很有前景。

这项惊艳的工作由Hyunin Lee、Jinglue Xu、Jeffrey Seely、Yujin Tang，以及我们来自加州大学伯克利分校的合作者Somayeh Sojoudi、Matei Zaharia、Donghyun Lee共同完成！