AI Pulse
📡 X 信号

微软发布AgentRx论文,解决AI代理崩溃难题

微软发布AgentRx论文,解决AI代理崩溃难题

微软这篇新论文简直精准得手术刀一样。

微软研究员刚刚解决了生产级AI代理最让人头疼的问题:定位一个50步执行流程究竟死在了哪一步。

当自主代理在第42步崩溃时,99%的工程师都会去调试第42步。但他们其实是在抓鬼:最终崩溃只是症状,真正的、不可恢复的致命故障其实出现在第4步——当时模型错误解释了工具输出,悄悄破坏了代理状态。

微软的AgentRx验证了我们追踪工程架构的核心论点:追踪记录不是代理做了什么的日志,它是代理执行拓扑的结构化表示。

故障因果剖析:第4步(工具输出静默误读)→ 第5-41步(级联状态偏移)→ 第42步(最终策略崩溃)

下面是AgentRx如何自动完成复杂轨迹上的根本原因诊断:

[ 01 故障定位瓶颈 ]
- 症状陷阱:事后最终评估只能告诉你代理失败了,迫使人类花费22分钟以上手动检查每个长范围追踪。
- 下游误导:在多代理工作流中,超过70%的护栏拦截或最终回答无根据,都是更早未被发现的幻觉引发的下游结果。
- 目标:精确定位因果链上第一个不可恢复的步骤,从数学层面看,到这一步已经不可能恢复。

[ 02 逐步动态约束合成 ]
- 全局约束:提前从工具模式和领域策略生成,强制约束参数类型、必填参数和模式合规性。
- 动态关系约束:在每个执行步骤从运行前缀生成,验证状态一致性(例如,检查代理声称的项目数量是否与API返回的实际数组长度一致)。
- 带防护断言:每个约束都作为带防护谓词求值,根据实际追踪证据给出确定性的通过或违规结果。

[ 03 可审计验证日志 ]
- 按步骤索引可追溯:不需要让大语言模型盲目读取16000 token的追踪,AgentRx会整理一份可审计的违规验证日志。
- 解耦判定:大语言模型裁判会结合验证日志和有依据的分类清单进行评估,在不受下游执行噪声干扰的情况下分离出根本原因。

[ 04 跨领域故障分类 ]
- 基于零售API、云事件自动化、网页导航场景下170条人工标注生产轨迹构建(标注者间一致性kappa = 0.89)。
- 识别出9种互斥的根本原因类别,包括计划遵守失败、新信息编造、无效调用和工具输出误读。
- 步骤定位性能比现有基准高出75%,致命故障归因准确率提升30%。

[ 生产环境中的经验假设检验 ]
行业假设:监控最终输出成功率、记录代理原始标准输出

本文由 AI 翻译自英文原帖,技术名词保留英文。

查看 X 原帖

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新