@kmeanskaran发布AI工程技术栈学习路径教程(11)
如果你想学习完整的AI工程技术栈,可以遵循以下阶段:
第一阶段:大语言模型实际工作原理
令牌、上下文窗口、嵌入、预填充 vs 解码,以及为什么每个额外令牌都要消耗时间和成本。
第二阶段:提示词与API
系统提示词、JSON输出、工具 schema、重试、提示词版本。要像对待生产代码一样对待提示词。
第三阶段:检索(RAG)
文档分块、搜索、重排序、保持数据新鲜、引用来源、重写劣质查询。大多数“幻觉”都是检索失败导致的。
第四阶段:生成式AI后端
FastAPI、微服务、身份验证、速率限制、请求队列、Redis缓存、网络钩子、超时。模型不等于整个系统。
第五阶段:记忆
对话记忆、长期记忆、总结 vs 重放、复用KV缓存、用户隔离。不要存储你不该存储的内容。
第六阶段:智能体
规划→工具→执行→检查。图、人工审批、超时、熔断器。智能体会陷入循环失效。
第七阶段:选择并部署模型
小模型 vs 大模型、Bedrock vs 自托管、vLLM / SGLang、批处理、KV缓存、量化。先路由便宜的模型,最后才用贵的。
第八阶段:可观测性
追踪、首个token生成时间(TTFT)/间隔时间(ITL)、令牌成本、缓存命中率、工具错误、CloudWatch、OpenTelemetry。如果你看不到它,你就无法运维它。
第九阶段:质量与安全
评估集、接地回答、schema检查、提示注入、个人可识别信息(PII)、过滤器、审计日志。在用户或律师找你之前,先衡量质量。
第十阶段:AWS基础设施
EKS或ECS、ECR、S3、Bedrock、ALB、IAM、VPC。Docker、Kubernetes、Terraform、持续集成/持续部署(CI/CD)、bash脚本。扩容、故障转移、配额。
第十一阶段:证明你能交付项目
在AWS上搭建一个真正的RAG+智能体应用。FastAPI后端、Terraform + Docker、生产环境CI/CD、延迟/成本/质量指标、一份事故复盘报告。发布一篇文章和代码仓库。
大多数人一直卡在看教程的阶段。我已经发布了三篇系列文章,讲如何设计智能体系统。
欢迎评论补充我遗漏的内容,这对我也有帮助。
可以去读一读。
本文由 AI 翻译自英文原帖,技术名词保留英文。
查看 X 原帖