AutoSFT 把 SFT 数据研究拆成多智能体分工,单智能体跑33轮只调混合比例
如果把完整的 SFT(监督微调)数据研究任务交给一个智能体,会发生什么?它只会反复调整数据混合比例,既不修复坏样本,也不生成新回复或合成数据。词云里全是“权重”“比例”这类词,跑了几十轮,得分几乎没有提升。
AutoSFT 由 THUNLP、北邮、ModelBest、UIUC、CUHK 联合推出,把数据研究的全生命周期拆成不同角色:专门的执行器、4个分析子智能体(分别负责训练数据、失败案例、学习动态、研究历史)、带验证器的合成写作器,以及负责挑选下一套方案的元智能体。
单智能体基线跑了33轮,只做数据混合这一类操作,上下文占用率达 94.7%,被压缩了10次。执行器介入后,压缩次数从10次降到5次,shell 事件占比从58%降到29%。
AutoSFT 在30轮实验中覆盖了全部6类数据操作,第6轮的 IFEval 得分就达到 63.33,超过基线跑50轮的最好成绩。同等预算下得分提升 6.5 分,第30轮得分达 67.10。
仅靠合成写作器单独作用,IFEval 提升 3.4 分,IFBench 提升 2.9 分,MBPP+ 编码任务提升 3.7 分。
结论是:自动化数据研究的效果,更多取决于能否覆盖多样化的数据操作,而不是单个操作本身的强度。