Avichawla 整理了覆盖13层的AI工程知识树

AI 工程主干知识树：（建议收藏）它涵盖生产级 AI 系统的 13 个层级。

1）基础层涵盖 token、嵌入、Transformer、注意力机制、位置编码、上下文窗口、专家混合模型与缩放定律。

2）模型行为层涵盖预训练、后训练、采样、温度、推理模型、测试时计算、多模态与幻觉。

3）提示工程通过系统提示、少样本、思维链、结构化输出、自洽性、元提示、提示缓存与优化来塑造输出。

4）检索通过文档解析、分块、向量数据库、混合搜索、查询重写、重排序、GraphRAG 与智能体 RAG 来添加外部知识。

5）智能体通过函数调用、ReAct、规划、反思、多智能体系统、计算机操作、人在回路与沙箱执行来采取行动。

6）上下文工程通过压缩、记忆、MCP、智能体技能、子智能体、即时检索与结构化笔记来控制上下文窗口。

7）微调通过 SFT、LoRA 与 QLoRA、RLHF、DPO、GRPO、RLVR、蒸馏与合成数据来改变模型行为。

8）推理优化通过量化、KV 缓存、连续批处理、投机解码、FlashAttention、PagedAttention、并行与预填充-解码分离来降低成本与延迟。

9）部署通过服务引擎、模型路由、语义缓存、流式传输、负载均衡、自动扩缩容、降级与端侧推理将模型转化为服务。

10）评估通过基准测试、LLM 作为评判、黄金数据集、RAG 指标、幻觉检测、轨迹评估、回归测试与在线 A/B 测试来衡量行为。

11）LLMOps 负责可观测性、追踪、成本跟踪、提示版本管理、反馈循环、漂移监控、模型注册表与持续学习。

12）安全与防护涵盖护栏、提示注入、越狱、PII 脱敏、红队测试、内容审核、工具权限与审计日志。

13）前沿模式包括决策模型、线束工程、循环工程、递归与对比语言模型、验证器工程、WebMCP 与可分叉智能体运行。

AI 工程已不能再被描述为围绕模型的提示加 RAG。生产系统在上下文、行动、推理、部署、评估、运维与安全方面各有独立的作用域。

如果你想深入了解这些层级，我还整理了《2026 年 LLM 工程路线图》，为每个主要支柱提供免费与开源资源。请在下方阅读。