Google发布WikiSkill论文,小模型可反超大模型
Google这篇WikiSkill论文绝对值得一读。
从宏观层面看,它展示了持久智能体、知识库和技能的有效性。
@karpathy推广了LLM维基,但这篇论文提供了一套实际框架,让智能体可以接入不断演化的技能维基。
让我觉得很有意思的一点是,这套方案可以给你的现有智能体做补充。LLM对世界能学到的内容终究有限。要让智能体在现实世界中高效、准确地完成任务,外部知识至关重要。
所以我认为这篇论文非常重要,因为它尝试解决我们在构建和维护技能时会遇到的一些常见问题。它能自动利用你的智能体运行数据,把这些知识持久化存入维基,再用所有这些信息来维持技能的正确调优,方便复用。
WikiSkill最惊人的一点是,它看起来是模型无关的。换句话说,它能在不同任务和不同模型上运行。演化出的技能甚至可以迁移到更小的模型上,而这些小模型有时表现比大模型更好。
这就印证了通过持久知识库和演化技能构建持久智能体是有效的。
对我来说,目前留下来的大问题是,WikiSkill产出的演化技能要怎么迁移到下一代模型上。我认为这些技能会带来巨大优势,被更智能的模型以更有意思的方式利用。
这里的实践结论是,我们所有人都应该思考,如何在公司和项目中构建持久知识库,以及如何利用它来升级和演化我们的技能。
欢迎加入我们的社区,深入讨论这篇论文:
本文由 AI 翻译自英文原帖,技术名词保留英文。
查看 X 原帖