@e_opore发布2026 年 AI 安全学习路线图(2026)

2026 年 AI 安全路线图：从零基础到 AI 安全工程师。

① 基础
→ Python 编程
→ Linux 基础
→ 网络与 HTTP
→ Git 与 GitHub
→ 操作系统
→ 密码学基础
→ 软件安全基础

② 网络安全基础
→ CIA 三元组
→ 认证与授权
→ 身份与访问管理（IAM）
→ 加密与密钥管理
→ 安全编码实践
→ OWASP Top 10
→ 漏洞评估
→ 威胁建模

③ AI 与机器学习基础
→ 机器学习基础
→ 深度学习
→ 神经网络
→ 自然语言处理（NLP）
→ Transformer 架构
→ 大语言模型（LLM）
→ 嵌入与向量数据库
→ 模型训练与微调

④ LLM 安全
→ 提示词注入
→ 越狱攻击
→ 系统提示词泄露
→ 不安全的输出处理
→ 敏感信息泄露
→ 训练数据投毒
→ 模型拒绝服务
→ 过度权限
→ 不安全的插件集成

⑤ AI 应用安全
→ RAG 安全
→ 向量数据库安全
→ API 安全
→ LLM 认证与授权
→ 安全模型部署
→ 数据隐私与保护
→ 密钥管理
→ AI 供应链安全

⑥ AI 红队
→ 对抗机器学习
→ 提示词注入测试
→ 模型提取攻击
→ 成员推理攻击
→ 数据投毒攻击
→ 模型规避技术
→ AI 漏洞发现
→ 自动化安全测试

⑦ AI 智能体安全
→ 智能体威胁建模
→ 工具权限管理
→ MCP 安全
→ 智能体身份与访问控制
→ 工具调用验证
→ 沙箱隔离
→ 人在回路安全
→ 多智能体安全

⑧ AI 安全工具
→ OWASP AI 测试指南
→ Garak
→ PyRIT
→ Giskard
→ Promptfoo
→ NeMo Guardrails
→ LLM Guard
→ ART（对抗性鲁棒性工具箱）
→ MITRE ATLAS

⑨ AI 安全治理
→ OWASP LLM 应用 Top 10
→ NIST AI 风险管理框架
→ MITRE ATLAS
→ ISO/IEC 42001
→ AI 治理
→ AI 风险评估
→ 合规与隐私
→ AI 安全策略

⑩ 实战项目
→ 构建一个 LLM 提示词注入检测器
→ 创建一个 AI 安全扫描器
→ 构建一个安全的 RAG 应用
→ 开发一个 AI 红队框架
→ 创建一个 LLM 护栏系统
→ 构建一个 AI 智能体沙箱
→ 开发一个 AI 漏洞评估工具
→ 保护一个 AI 驱动的 SaaS 应用

⑪ 高级方向
→ AI 威胁情报
→ 对抗机器学习研究
→ LLM 漏洞利用开发
→ AI 模型鲁棒性
→ 自主智能体安全
→ AI 安全架构
→ AI 事件响应

职业方向
→ AI 安全工程师
→ AI 红队工程师
→ LLM 安全研究员
→ AI 应用安全工程师
→ 对抗机器学习工程师
→ AI 安全架构师

我的建议
不要只学习如何构建 AI 系统。要学习如何攻破它们、保护它们，并让它们值得信赖。

保存这份路线图。动手做项目。以合乎道德的方式练习。把它分享给刚进入 AI 安全领域的开发者。关注 @e_opore，获取更多关于软件工程、AI、网络安全和系统设计的内容。