@_avichawla讲清三种开发运维的核心差异

清晰讲解 DevOps vs. MLOps vs. LLMOps：很多团队都在尝试把 DevOps 实践应用到 LLM 应用上，但 DevOps、MLOps 和 LLMOps 解决的是完全不同的问题。

DevOps 以软件为核心。你编写代码、测试代码，然后部署它。反馈循环非常直接：代码能不能运行，一目了然。

MLOps 以模型为核心。在这里你要处理数据漂移、模型衰减，还有持续重训练。代码本身可能没问题，但随着世界变化，模型的性能会随时间推移下降。

LLMOps 以基础模型为核心。在这里你通常不会从零开始训练模型，反而是先选择基础模型，再通过三种常见路径优化：
- 提示词工程
- 上下文/RAG 搭建
- 微调

但 LLMOps 真正与众不同之处在于：监控完全不一样。在 MLOps 里，你追踪数据漂移、模型衰减和准确率。而在 LLMOps 里，你需要监控的是：
- 幻觉检测
- 偏见与毒性
- token 用量与成本
- 人工反馈循环

这是因为你不能简单检查输出是不是「正确」，你需要保证它安全、有依据，而且成本可控。

LLMOps 的评估循环还会同时反馈到三条优化路径里。评估不通过可能意味着你需要更好的提示词、更丰富的上下文，或是微调。所以它不再是线性流水线了。

还有一点：提示词版本管理和 RAG 流水线现在是 LLMOps 里的一等公民，就像数据版本管理在 MLOps 里必不可少一样。而且你选择的 ops 层，应当匹配你正在构建的系统。

如果你想深入了解 LLMOps，我之前写过一份完整的 LLM 工程路线图。它梳理了构建 LLM 系统的八大支柱，从提示词工程开始，到可观测性与安全结束，每个部分都附带免费开源资源。你可以在下方阅读。