AI Pulse

智能体的目标设计:反馈越容易,学得越快

智能体的目标设计:反馈越容易,学得越快

目标工程:如何设计目标

与 @mgarimella(Actively AI)和 Anshul Gupta(Actively AI)共同撰写

在过去几年中,智能体能够承担的任务范围急剧扩大。它们从简单的文本生成,发展到工具调用和决策制定,再到执行完整任务。智能体的未来,是接受开放式目标并朝着完成这些目标推进。像 Hone 这样的产品发布,让我们得以一窥那个未来。

在这个世界里,设计智能体的范围至关重要。把它们指向错误的方向,你就会浪费大量 token。Hone 智能体设置的一个关键部分,就是定义供它们优化的指标。

如何设计目标

在我们研究类似风格的智能体时,我们意识到一件关于设计智能体范围的事:你希望设计智能体的范围,使得在智能体于该范围内运作时,尽可能容易地向它提供反馈。

这是为什么?

当智能体搞砸时,一个很大的原因是缺乏正确的上下文。为了修复这个问题,你需要给智能体正确的上下文。上下文有不同的类型。有些类型的上下文,比如访问正确的文档或 API——这些相对容易修复。最难给智能体的上下文,是那些尚未被写在任何地方的上下文。这种上下文需要由人类专家以反馈的形式传递给智能体。

随着智能体超越可验证的任务,开始与组织内的人类一起承担主观工作,这一点尤其重要。例如,如果你想让一个智能体帮助优化一个业务指标(比如改进你的广告以优化营销表现),除了事实性上下文之外,还有太多的细微之处需要约束智能体的行为。你可能对什么听起来、看起来不错有某种品味。你对品牌的挑衅性或前卫程度有自己的看法。一个无法有效获得反馈来快速学习这些的智能体,很快就会变得无用。

如果你的智能体的范围,使得对其工作的质量反馈很容易给出,这将极大地帮助你构建一个能够可靠追求长期目标的智能体。

一个相关的经验是,你要在审查智能体工作的直观、愉悦的 UX 上投入大量精力。智能体表现的瓶颈往往是它们从反馈中学习。因此,你应该寻求优化反馈收集的便捷性和质量!投资于清晰的审查 UX 是值得的。

案例研究:Actively AI

让我们看一个来自 Actively AI 的例子,该公司为销售团队构建智能体。

Actively 的第一个目标导向智能体体验的设计方式是,每个账户(销售团队想要向其销售的潜在客户)配备一个智能体。该智能体的任务是推动账户前进,并产生供销售代表批准的行动。直觉上,这是合理的——这是一个相对受限且有明确指向的目标,有着明确的结果。粗看之下,似乎关于账户的上下文是智能体最重要的上下文,所以你应该围绕账户来配置智能体。

随着智能体的运作,他们发现智能体还需要另一种重要的上下文来源:如何高效地完成工作。具体来说,如何外联,如何回复,如何制定交易策略,进攻性该有多强,如何在一个大型组织中周旋,等等。这种类型的上下文分布在多个智能体中——如果你在一个账户中学会了某种外联方法,你通常也希望将这种学习传递给其他账户。

Actively 发现,当智能体只处理一个账户时,销售代表很难高效地使用——并向其提供反馈。推进一个账户时,智能体需要做许多不同的工作,而这些工作常常在时间上分散。他们发现(a)智能体之间有很多上下文切换(因为单个智能体在任何时间点只有少数几件事需要审查),以及(b)跨智能体分享经验是一个笨拙的 UX(而分享是必要的,因为它们在学同样的东西)。

Actively 智能体体验的第二个版本修复了这个问题。他们新的目标导向智能体(构建于 Deep Agents 之上!)被称为 “motions”。一个 motion 是一项特定的工作——比如外联或早期交易的推进。如何做这项工作并没有明确定义,其中很多甚至与单个销售代表的个人偏好有关。大量知识存在于销售人员的头脑中,需要以反馈的形式提供给负责该 motion 的智能体,供其学习。由于一个 motion 是一组相似的任务,销售代表把它们放在一起审查是相当容易的。从 motion 中的一个任务中学到的任何反馈,直觉上也会传递到该 motion 中的其他任务。

这使反馈(既包括反馈的范围,也包括给出反馈的容易程度)与智能体本身对齐,从而更容易打造出强大的智能体。

这并不是说账户上下文不重要——它显然重要!但账户上下文通常是已经写下来的、更加客观的信息。因此,Actively 有在后台运行的上下文收集智能体,为每个账户汇编上下文,但推动账户在漏斗中前进的实际工作,现在由跨多个账户运作的 motions 处理。它们负责一个销售 motion 的切片,从反馈中学习得更快,并在需要时拉取每个账户的上下文。

未来

在未来,智能体将发展到这样的程度:你只需给它们一个目标,它们就去优化这个目标。

人类审查这些智能体的工作需要大量时间——但这非常宝贵。这是你教这些智能体该做什么,并让它们适应你所在领域的方式。那些只存在于人脑中的知识,以易于传递给智能体的形式提取出来,这一点非常重要。

为了最好地做到这一点,你希望将智能体的目标与人类最易于审查的形式对齐。这使你能够创造愉悦的审查 UX,提取尽可能多的信息,并使你的智能体持续学习,从而使它们随着时间推移越来越有用和自主。

提示工程(prompt engineering)和上下文工程(context engineering)将会消失,但目标工程(goal engineering)将始终存在。

阅读原文
📚 相关主题 AI Agent目标设计产品方法论

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新