AI协作从任务转向目标:你给方向,它定任务
随着智能体能力不断增强,我们正从向它们布置任务转向交付目标。
任务是:写这封邮件、起草这篇博客、修复这个 bug。
目标是:在不遗漏重要承诺的前提下减轻协调负担、持续运营博客、让产品取得成功。
本质上,这种从任务到目标的转变包含两个更实际的变化:从指定具体动作转向指定预期结果、从有界的任务转向持续的责任。这会改变智能体的工作内容、所需能力、构建方式,以及我们与它的交互方式。
智能体自主选择任务
过去,用户指定任务。现在,用户指定目标,智能体通过将目标拆解为任务、执行部分任务、更新任务列表等方式,朝着目标迭代推进。
智能体需要擅长头脑风暴和选择不同的任务,这需要新的上下文工程和提示策略。它在头脑风暴潜在任务时需要具备一定的创造力和多样性(如果它反复提出相同的任务,那就不太好)。
实际考虑:你需要某种方式来查看智能体正在执行的任务(如待办列表),并引导智能体在提出任务时保持创造力。
工具调用的可预测性大幅降低
当你布置任务时,你大致知道它会调用哪些工具。当你交给它目标时——你并不知道它会调用什么工具,甚至可能不知道它需要调用什么工具。
例如:如果你让智能体发送一封邮件(任务),你知道它需要 Gmail 工具,也许还需要日历工具。如果你让智能体“在不遗漏重要承诺的前提下减轻协调负担”(目标),你不知道它什么时候需要邮件、短信、搜索工具、浏览器工具,或者其他可能的工具。
实际考虑:你需要对智能体可以或不可以调用哪些工具有更多的控制。
需要专门的提问通道
当你布置任务时,你自然地处于交互循环中。如果你没有提前提供所有信息,智能体很容易在聊天中提出后续问题。
当你交给它目标时——它可能在后台运行,需要在某些问题上获得澄清。它需要一种向人类提问的方式——无论是通过 Slack 还是专门的界面。
实际考虑:你需要一个机制,让后台智能体向你请求澄清。
需要明确的反馈获取路径
智能体在朝着目标推进的过程中,需要知道自己的表现如何。它可以通过检查某个指标是否改善来判断,也可以从人类那里获得明确的反馈。从某种意义上说,与指标绑定越紧密越好(便于自动跟踪!),但盲目优化指标从来都不是明智之举,所以明确的人类反馈可能是最好的方式。这就是为什么设计目标时要让反馈变得容易。
你可以同时设置智能体推进的指标,以及从用户那里获得反馈的方式。定义智能体如何评估进展,并让人们能够纠正它对成功的解读。
实际考虑:你需要以与反馈一致的方式来设计目标,并建立智能体获得反馈的机制。
持续工作需要触发机制和停止规则
当你布置任务时,智能体会一直运行直到完成。
当你交给它目标时,它需要在后台工作。它不会一直运行——它会在某些时间被唤醒做一些工作。它是如何被唤醒的?
我们看到的一些方法:每隔 X 分钟的心跳检测、循环 cron 任务、一次性 cron(提醒)、监听事件流。
尽管如此,它也需要停止、暂停或忽略这些触发的方式。如果它每 30 分钟收到一次心跳,每次都问你同样的问题——那是糟糕的用户体验。
持续的责任并不意味着智能体应该总是找事情做。有时什么都不做才是正确的行动。
实际考虑:你需要 cron 定时任务和事件触发来唤醒智能体,并引导它决定何时采取行动。
记忆让反馈持续积累
虽然记忆听起来很酷,在过去几年里吸引了开发者的想象力,但实际上在以任务为基础的世界中,它并不那么被需要(除非你在反复执行同一个任务)。
对于单个任务,用户每次都可以提供相关上下文。当你委托持续的责任时,更多的负担转移到智能体身上。它需要携带之前的决策和反馈,而不需要你重复它们。
例如:拒绝一个博客主题应该影响未来的主题选择,而不仅仅是当前的草稿。
实际考虑:智能体需要跨运行保留并使用相关的决策和反馈。
总结
给智能体交付目标,不是简单给它一个更大的提示词。你是在委托关于做什么工作和什么时候做的决策。你的角色从指定每个具体任务转变为设定方向、界定边界和审查进展。