英伟达和MIT用Karpathy方法将智能体成本砍半

NVIDIA 和 MIT 的研究人员刚刚使用 Karpathy 方法将 Agent 连接成本降低了一半——发布了一份 15 页 PDF。

转变：用一个公式替代了提示词工程——同一个大语言模型，同一个基准——只修改连接框架。以下是他们的构建方法：

第一步：检查 Agent 的执行日志——重复操作、上下文膨胀、过大的输出——找出 token 不再推进任务的位置。

第二步：对连接框架运行 Karpathy 循环：提出方案 → 实现 → 评审 → 测试 → 保留或丢弃。在搜索开始前修复质量和效率关卡。最终保留了四个修复方案：

第三步：合并操作：在一次工具调用中编辑文件并运行计划的测试——消除二者之间的模型往返。

第四步：在已完成步骤处压缩——但仅在预期节省超过重写缓存上下文的成本时执行。

第五步：停止重放超大输出：将它们归档，发送两次，然后保留一个句柄和简短摘录。需要时再检索完整页面。

第六步：将日志读取委托给更便宜的模型——对照原始日志验证它提供的证据。如果验证失败，返回完整日志。

如何把它用到你的 Agent 里：

第七步：先从 Pi 的一个机制开始，那里有他们的代码运行。在组合全部四个方案前，和你当前的设置做对比测试。

第八步：冻结变更，然后在未见过的任务上测试。同时跟踪完成度、API 成本和 token——更便宜的失败终究还是失败。

结果：在 EdgeBench 上，使用相同的主大语言模型，API 成本比原生 Codex 和 Claude Code 低 50-54%。对比 Pi，成本降低约三分之一，token 减少 45-49%，平均得分保留约 94%。

收藏这份 15 页 PDF，然后从下方文章构建完整工作流↓