AI Pulse
📡 X 信号

同一套模型不改,只优化外层框架就能省一半 API 钱

同一套模型不改,只优化外层框架就能省一半 API 钱

NVIDIA 和 MIT 的研究人员把 Karpathy 循环对准了 agent 测试框架本身,在相同模型、相同基准下,API 成本降低了 50-54%。

他们只改了 Claude Code 和 Codex 周围的测试框架,让它们运行这样的循环:提出方案 → 实现 → 审查 → 测试 → 保留或丢弃。

最终保留下来的 4 项改动:
1. 一次工具调用完成编辑文件并运行其测试
2. 只在一个步骤完成后压缩上下文,且仅当节省的成本大于压缩本身的开销时才执行
3. 归档巨大的输出,只传递简短摘录和一个句柄
4. 把日志读取交给更便宜的模型,然后对照原始日志核查它给出的证据

论文共 15 页。先从一项修复开始,测量效果,再加入下一项。

同一个循环,用在基于 Opus 5.5 的 Obsidian 第二大脑上,详见下方文章 ↓

🫨简直无敌!DeepSeek Harness被清华微软团队直接“瘦身”:Token消耗砍掉87.93%,成功率反而暴涨14%!

Agent每次工具反馈后都要重新问一遍LLM,哪怕下一步早定死了(写完代码→编译,编译成功→测试)。清华+微软团队用HarnessMM直接把这些“已决定”的步骤缓存下来,跳过重复推理。

核心成果(98个HumanEval任务):
🔹DeepSeek Harness:Token从96.28k降到11.62k,砍掉87.93%!成功率从71.43%直接飙到85.71%
🔹Codex:成功率稳在90.82%,Token再降29.54%(66.72k→47.02k)
🔹原理:模型一次规划未来命令+精确参数+守卫条件(如“编译成功”),匹配就直接执行,跳过LLM回调。模型权重完全不动
🔹额外:MBPP上也大幅降本,递归自我改进(RSI)让Harness配置持续变强

Agent循环里大量Token浪费在“重新决定已经决定的事”上。这波直接把成本打下来,性能还往上走。

论文: #DeepSeek #AIAgent #Token效率 #清华 #微软 #HarnessMM #大模型降本 #Agent优化 #梁文峰 #梁圣

本文由 AI 翻译自英文原帖,技术名词保留英文。

查看 X 原帖

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新