AI Pulse
📡 X 信号

生产级Agent Infra落地者分享6步6个月进阶学习路径

想深入 Agent Infra,别只盯着 Prompt 和框架。

我落地过 2 个生产级 Agent。在这些项目中,我发现最难的不是模型本身,而是重试、状态管理、沙箱隔离和监控这些工程问题。Agent 能不能在生产环境中稳定运行,很大程度上取决于底层 Infra。

我把Agent Infra的学习之路拆成了 6 步,从 Runtime 一直到生产平台。下面是完整的学习路径。

开始前先说清楚 4 件事。

•这是一份公开的学习计划,大约按 6 个月的节奏走。重点是吃透,不比速度。

•Agent Infra 不是 AI Infra。这里不讲 CUDA,也不讲训练和推理。

•已经熟悉 Runtime 的人,可以跳过第 1 步。

•第 2 步最容易被低估。

6 步依次是 Runtime、可靠性、编排、沙箱、可观测与评估、生产平台。

1. 先自己写一个 Agent Runtime

目标:不依赖现成框架,搞懂 Agent 是如何完成一个用户任务的。

学什么:从零写一个 Agent Loop,也就是“思考、调用工具、拿到结果、再思考”这一圈。然后学 Tool Calling、Context Engineering、Streaming、State 和 MCP。可以跟着三元同学的 Super Agent 实战课走一遍,也可以跟着Datawhale的hello-agents做一遍(hello-agents链接:

有个捷径是读 Pi 的源码。重点看 Loop、消息结构、消息发出的时机、session、缓存、compact、hook 和 MCP。底层的 LLM 封装可以跳过。

怎么练:搭一个最小的 Loop,跑通一个需要多个工具的任务。再对照 Pi 画一张图,标出消息什么时候发出、session 怎么存、什么时候触发 compact。

验收:你能讲清一次工具调用从头到尾发生了什么。只会调 SDK 可不算过关。

2. 可靠性靠设计,不用先学分布式

目标:进程挂了、网络断了,没跑完的任务还能接着跑。

我的结论是,入门不必先学分布式。可靠性是设计出来的。

学什么:HTTP、SSE 和 WebSocket,进程、线程和协程,还有队列、状态机、超时、重试和幂等。资料先看 System Design 101。MIT 6.1800 和 6.5840 挑需要的部分补。DDIA 先别硬啃。

怎么练:写一个能恢复的小型任务执行系统。杀掉进程再重新启动,做了一半的任务要能接着跑。

我特别看重两点。第一,重新启动一个Agent进程,任务也能接着跑。第二,失败要如实上报,不能当成成功吞掉。

验收:重启以后任务不丢失,重试不会造成重复的业务副作用,任务状态能对得上。

3. 从一个 Loop 升级到编排多个 Agent

目标:从管一个 Loop,升级到管多个子任务和多个 Agent。

学什么:Subagent 的任务分发、结果收集和上下文隔离,异步任务与并发控制,目标拆解与结果对齐,以及更高层的多 Agent 编排工具。

怎么练:把一个任务拆成 3 个子任务,跑通后汇总结果。再故意让其中一个子任务失败,看编排层能不能把整个任务收住。

验收:你能说清哪些工作该交给子 Agent,哪些该留在主 Loop。

4. 危险操作一律放进沙箱

目标:工具可以读写文件、执行命令。出了事,坏掉的是沙箱,不是宿主机。

学什么:入门阶段会用 k8s 调度就够了。入门可以先从 Container + Volume 搭建隔离环境,再逐步了解文件系统隔离、资源限制、网络策略和权限控制。

怎么练:给 Agent 配一个独立的沙箱,故意把里面的目录写坏。确认宿主机没有受影响,任务状态也还能恢复。

验收:危险操作默认在沙箱里执行。权限写在 Tool Definition 里,不靠 Prompt 求模型“小心一点”。

5. 先看得见 Agent 在做什么,再让它变好

目标:看得见 Agent 在做什么,并且能持续改进。

学什么:直接看 Langfuse。可观测(Observability)的核心,把轨迹、工具调用、耗时和失败原因都存下来。评估(Evaluation)是一条“先优化、再验证”的流水线,不是偶尔手动测两个用例。

怎么练:接入 tracing。固定 10 到 20 个用例做回归测试。每次改了 Prompt、工具或编排,都用同一套评估看结果变好还是变差。

验收:出了问题,能定位到是哪一步、哪个工具。每次改动都有改动前后的对比。

6. 把前 5 步拼成能上线的平台

目标:把前面几块拼成一个能上线的平台,而不是一堆 Demo 脚本。

学什么:读 FenixAgent的源码。编排、调度和 Agent 协议对接,都是生产里绕不开的脏活。

怎么练:对照 FenixAgent列一份缺口清单,包括调度、协议、多租户和配额,然后按优先级补。别一上来就把整套系统重写。

验收:别人照着文档,就能把你的服务启动起来并跑通。不能只在你自己的电脑上能跑。

查看 X 原帖

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新