生产级Agent Infra落地者分享6步6个月进阶学习路径
想深入 Agent Infra,别只盯着 Prompt 和框架。
我落地过 2 个生产级 Agent。在这些项目中,我发现最难的不是模型本身,而是重试、状态管理、沙箱隔离和监控这些工程问题。Agent 能不能在生产环境中稳定运行,很大程度上取决于底层 Infra。
我把Agent Infra的学习之路拆成了 6 步,从 Runtime 一直到生产平台。下面是完整的学习路径。
开始前先说清楚 4 件事。
•这是一份公开的学习计划,大约按 6 个月的节奏走。重点是吃透,不比速度。
•Agent Infra 不是 AI Infra。这里不讲 CUDA,也不讲训练和推理。
•已经熟悉 Runtime 的人,可以跳过第 1 步。
•第 2 步最容易被低估。
6 步依次是 Runtime、可靠性、编排、沙箱、可观测与评估、生产平台。
1. 先自己写一个 Agent Runtime
目标:不依赖现成框架,搞懂 Agent 是如何完成一个用户任务的。
学什么:从零写一个 Agent Loop,也就是“思考、调用工具、拿到结果、再思考”这一圈。然后学 Tool Calling、Context Engineering、Streaming、State 和 MCP。可以跟着三元同学的 Super Agent 实战课走一遍,也可以跟着Datawhale的hello-agents做一遍(hello-agents链接:
有个捷径是读 Pi 的源码。重点看 Loop、消息结构、消息发出的时机、session、缓存、compact、hook 和 MCP。底层的 LLM 封装可以跳过。
怎么练:搭一个最小的 Loop,跑通一个需要多个工具的任务。再对照 Pi 画一张图,标出消息什么时候发出、session 怎么存、什么时候触发 compact。
验收:你能讲清一次工具调用从头到尾发生了什么。只会调 SDK 可不算过关。
2. 可靠性靠设计,不用先学分布式
目标:进程挂了、网络断了,没跑完的任务还能接着跑。
我的结论是,入门不必先学分布式。可靠性是设计出来的。
学什么:HTTP、SSE 和 WebSocket,进程、线程和协程,还有队列、状态机、超时、重试和幂等。资料先看 System Design 101。MIT 6.1800 和 6.5840 挑需要的部分补。DDIA 先别硬啃。
怎么练:写一个能恢复的小型任务执行系统。杀掉进程再重新启动,做了一半的任务要能接着跑。
我特别看重两点。第一,重新启动一个Agent进程,任务也能接着跑。第二,失败要如实上报,不能当成成功吞掉。
验收:重启以后任务不丢失,重试不会造成重复的业务副作用,任务状态能对得上。
3. 从一个 Loop 升级到编排多个 Agent
目标:从管一个 Loop,升级到管多个子任务和多个 Agent。
学什么:Subagent 的任务分发、结果收集和上下文隔离,异步任务与并发控制,目标拆解与结果对齐,以及更高层的多 Agent 编排工具。
怎么练:把一个任务拆成 3 个子任务,跑通后汇总结果。再故意让其中一个子任务失败,看编排层能不能把整个任务收住。
验收:你能说清哪些工作该交给子 Agent,哪些该留在主 Loop。
4. 危险操作一律放进沙箱
目标:工具可以读写文件、执行命令。出了事,坏掉的是沙箱,不是宿主机。
学什么:入门阶段会用 k8s 调度就够了。入门可以先从 Container + Volume 搭建隔离环境,再逐步了解文件系统隔离、资源限制、网络策略和权限控制。
怎么练:给 Agent 配一个独立的沙箱,故意把里面的目录写坏。确认宿主机没有受影响,任务状态也还能恢复。
验收:危险操作默认在沙箱里执行。权限写在 Tool Definition 里,不靠 Prompt 求模型“小心一点”。
5. 先看得见 Agent 在做什么,再让它变好
目标:看得见 Agent 在做什么,并且能持续改进。
学什么:直接看 Langfuse。可观测(Observability)的核心,把轨迹、工具调用、耗时和失败原因都存下来。评估(Evaluation)是一条“先优化、再验证”的流水线,不是偶尔手动测两个用例。
怎么练:接入 tracing。固定 10 到 20 个用例做回归测试。每次改了 Prompt、工具或编排,都用同一套评估看结果变好还是变差。
验收:出了问题,能定位到是哪一步、哪个工具。每次改动都有改动前后的对比。
6. 把前 5 步拼成能上线的平台
目标:把前面几块拼成一个能上线的平台,而不是一堆 Demo 脚本。
学什么:读 FenixAgent的源码。编排、调度和 Agent 协议对接,都是生产里绕不开的脏活。
怎么练:对照 FenixAgent列一份缺口清单,包括调度、协议、多租户和配额,然后按优先级补。别一上来就把整套系统重写。
验收:别人照着文档,就能把你的服务启动起来并跑通。不能只在你自己的电脑上能跑。