Sakana AI 开源 QD-Rec,用质量多样性思路做开放式推荐演化
QD-Rec:通过质量-多样性实现推荐的开放式演化
博客:
GitHub:
arXiv:
开放式搜索已被用于发现算法、生成科学想法以及开发自我改进的智能体。借助 QD-Rec,我们探索它如何支持一种不同的任务:帮助人们做出决策。收购方应该收购哪家公司?哪些客户可能从产品中受益?研究人员应该阅读哪些论文?在每种情况下,任务都是在现有选项中进行选择,而不是生成新的选项。
乍一看,有限的、预定义的候选池似乎几乎没有开放式探索的空间。然而,一组固定的选项并不意味着选择它们的理由也是固定的。同一家公司可能因其技术或开拓新市场的潜力而值得考虑。即使选项本身是固定的,对这些理由的搜索仍然是开放式的。
QD-Rec 同时搜索推荐什么以及为什么推荐。它不是追求单一的最佳答案,而是构建一个多样化的推荐集合,每个推荐都将一个候选对象与一个自然语言假设配对,解释为什么它符合特定决策者的目标、兴趣和背景。
该系统结合了三个组件。一个上下文老虎机(contextual bandit)学习接下来要调查哪些项目,在有前景的候选对象和较少探索的候选对象之间取得平衡。一个大语言模型(LLM)通过调整或组合早期的推荐来生成假设。一个存档会在新推荐提供新颖理由时保留它,或者在新推荐被判定为更好时替换类似的推荐。
我们在收购目标发现、客户定位和论文推荐方面对 QD-Rec 进行了评估。与移除了演化假设生成或上下文老虎机的变体相比,QD-Rec 在大多数设置中实现了最高的平均 LLM 评分质量,并且通常构建了最大的存档。我们还发现了一些例子,其中早期质量较低的推荐成为了后续发现的垫脚石。
这些实验只是一个起点。实际应用将需要更丰富、最新的信息以及专家的人类反馈,以评估所提出的 QD-Rec 在 LLM 评判之外是否依然有效。我们正在发布 QD-Rec 的代码,以便研究人员和从业者可以利用他们自己的决策任务来探索开放式推荐。
本文由 AI 翻译自英文原帖,技术名词保留英文。
查看 X 原帖