AI代理进化的关键,不在算法在目标设计
在纽约一家SaaS公司的办公室里,工程师们正在调试一套能自动跟进客户问题的AI系统。这套系统不需要反复重新训练模型,只要调整给它的任务上下文,就能在运行中慢慢变得更聪明——这是Actively团队最近总结出的实战经验。
这套经验的核心,被Anthropic的核心工程师@hwchase17 发到了社交平台,单条推文获得4.6万次浏览、769次收藏。他和Actively的@mgarimella 共同撰文提出:当AI代理(也就是能自主完成多步任务的AI程序)开始朝着目标工作时,怎么设计这个目标,变得比算法本身更重要。
@caspar_br 转发时点出了最关键的观察:AI代理的架构设计,直接决定了它能在多大程度上随时间自我改进。Actively团队调整了代理的目标结构之后,系统的迭代效率出现了明显变化。
@Vtrivedy10 则把这件事放到了更远的视角:如果能让AI代理顺畅地承接工作,未来人类设计工作、分配算力的方式都会被改写。
这背后有一套已经被验证的技术逻辑。基于GPT-5或Claude构建的客户支持代理,不需要重新训练,只要调整权重周围的上下文,就能实现随时间的自我改进。AI代理可以通过反馈循环检查行动效果、发现错误,再调整后续计划;也能通过记忆系统在长周期任务里维持目标进度,从过往结果里优化决策。
但这套机制不是没有代价。在大型或连续状态空间里,目标型代理的规划步骤会快速推高计算成本,如果没有精细的工程设计,很容易出现性能瓶颈。Anthropic总结的高效代理设计原则里,就包括保持架构简洁、明确展示代理的规划步骤、给工具写好文档和测试。
更有意思的是团队协作层面的发现。MIT斯隆管理学院的研究显示,在大规模营销实验里,设计成和其他代理、人类同事性格互补的AI代理,能拿到更好的绩效和协作结果。
当AI代理开始承担业务里的技术执行职责,组织也需要重新调整运营模式——把人的精力往战略方向和高价值判断上引导。
下次给AI派任务的时候,或许可以多花两分钟想想:这个目标定得够清楚吗?它有没有空间从错误里学习?毕竟现在AI能走多远,很大程度上取决于人给它画的起跑线。