开源工具能提前测出AI agent靠不靠谱了

// Agents Do Not Fail Alone //

一款非常优秀的开源评测工具，用于检测 Agent 的可靠性，里面有很多很棒的思路。（建议收藏）

问题出在哪里？上下文工程已经成为构建可靠 Agent 的核心，但它几乎完全没有被量化衡量。

指令、工具、记忆、检索知识、护栏和不可信输入都会累积在上下文中，当上下文出问题时，Agent 就会发生偏离、产生幻觉、错误使用工具、易受到注入攻击，还会浪费 tokens。

这项研究验证了，上下文工程质量是Agent可靠性的独立先行指标。

衡量工作在 ProofAgent-Harness 中完成，这是一个开源基础设施，它通过多评审者共识从七个维度给上下文打分，涵盖角色清晰度、护栏覆盖率、指令一致性、工具 schema 质量、 grounding 充分性、注入加固和 token 效率。

上下文分数与行为指标、发布决策是隔离的，因此预测不会被提前植入。

固定前沿 LLM Agent 只改变其运行上下文后，每个维度都能预测对应的匹配结果。

为什么你需要考虑做这些检查：
> grounding 充分性可以预测抗幻觉能力
> 护栏覆盖率可以预测抗操纵能力
> 工具 schema 质量可以预测工具使用能力

论文：
来我们学院学习如何构建有效的 AI agent：