AI Pulse
📡 X 信号

《More Memory, Worse Agents》研究作者发布Anti-Persistence 方法(9 个模型×任务组合)

一个错误如果被 Agent 总结成 Skill,下一次它可能会更自信地再犯一遍。

《More Memory, Worse Agents》研究的就是这种 Error Reproduction。

很多 Agent Memory 会把过去轨迹总结成规则和经验,再用于后续任务。问题在于,一旦总结本身出了偏差,错误也会跟着长期保存,并继续影响之后的决策。

作者因此提出 Anti-Persistence: 真实轨迹和结果可以长期保存,但抽象出来的规则和策略只在当前任务临时生成,用完就丢。下一次再根据新的上下文重新总结。

实验覆盖 ALFWorld、WebShop 和 ScienceWorld。Anti-Persistence 在 9 个模型×任务组合里拿到 7 个最好结果,平均成功率 59.9%,同时 LLM 调用成本最低。

长期保存,并不天然等于长期学习。我的判断是:该长期存的是事实(轨迹和结果),而不是结论(规则和策略)。结论随时可以重新算,存错了却很难发现。

做 Agent Memory 或 Skill 自进化的可以��收藏。我会先检查自己的 Memory 里存的是原始轨迹还是总结出的规则;如果是规则,至少给每条记上来源轨迹,出错时能追回去。

如果某类错误在接入 Memory 之后反而更频繁了,先怀疑的就该是那几条总结出来的规则。

📎 arxiv:

查看 X 原帖

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新