AI安全工程可落地的15个自建项目清单

给那些总在问 AI 安全工程该做什么的人。

➣ 做一个属于你自己的多轮越狱模糊测试器（有状态上下文梳理 + Crescendo 载荷 + 绕过评分）
➣ 做一个属于你自己的 MCP 工具投毒防护盾（JSON-RPC 清洗 + Pydantic 校验 + 混淆代理拦截）
➣ 做一个属于你自己的 PII 脱敏代理（确定性 UUID 替换 + 发送前脱敏 + 接收后还原）
➣ 做一个属于你自己的 RAG 投毒检测器（分块哈希校验 + 引用伪造检测 + 影子上下文标记）
➣ 做一个属于你自己的语法约束输出牢笼（CFG 解码 + 正则强制 schema + 可执行代码拦截）
➣ 做一个属于你自己的代理委托 OAuth 代理（作用域 JWT + 限时令牌 + 最小权限交接）
➣ 做一个属于你自己的自动化红队 CI 门禁（PyRIT 载荷 + 越狱率阈值 + 合并拦截）
➣ 做一个属于你自己的语义 API 限流器（嵌入相似度评分 + 抓取模式检测 + 提取拦截）
➣ 做一个属于你自己的计算机使用像素审计器（隐形 UI 检测 + Set-of-Mark 伪造 + 点击目标校验）
➣ 做一个属于你自己的代理间清洗总线（跨代理注入过滤 + Markdown 剥离 + 信任边界强制）
➣ 做一个属于你自己的向量记忆完整性扫描器（休眠载荷检测 + 情景异常标记 + 后门清除）
➣ 做一个属于你自己的加密轨迹账本（只追加哈希链 + 提示/上下文/工具记录 + 防篡改回放）
➣ 做一个属于你自己的 AI 供应链扫描器（幻觉依赖检测 + MCP 服务器审计 + AI 生成 SBOM）
➣ 做一个属于你自己的激活修补安全仪表盘（Logit Lens 探测 + 欺骗回路发现 + 谄媚中和）
➣ 做一个属于你自己的漏洞链拆解引擎（漏洞复现 + 缓解措施映射 + CVE 式披露）

挑 3 个。从零开始做。记录每一个决策。

大多数人信任系统提示词。构建者在 token 层面强制约束。

收藏这条。你会用到的。