AI Pulse
📡 X 信号

AI 编程工具降低了 Demo 门槛,但生产级系统的坑一个没少

现在借助 AI 编程工具,做出一个能跑的 Demo 门槛已经低得离谱。很多人用 Codex、Claude Code 搓个前端,接个大模型 API,加上流式输出,看到 AI 能正常聊天,就觉得自己做出了一套完整的 AI 系统。

但能跑和能用,能用和能长期稳定运行,完全是三回事。把系统放到生产环境接入真实用户,问题马上就会出现:用户聊天中途断网怎么办?刷新页面后历史记录还在不在?同一条请求重复提交怎么办?模型调用外部 API 超时怎么办?工具已经执行成功但系统没收到结果,重复调用一遍怎么办?

如果只是回答问题,出错可能只是返回一段错误文本。但如果 Agent 已经接入企业数据库、邮箱、支付接口,甚至拥有修改业务数据的权限,就可能造成重复发送邮件、重复扣费、错误修改数据库这类真实业务损失。

很多人学 AI 开发的最大误区,是太关注模型本身,却忽略了模型外面那一整套软件系统。一个真正能交付的 AI 聊天应用,背后涉及 HTTP、API、身份认证、会话管理、数据库、上下文构建、模型路由、工具调用、异步任务、日志监控、异常恢复,还有权限、成本和安全问题。

拿 RAG 来说,很多教程教你上传 PDF、切分文本块、生成嵌入向量、存入向量数据库,最后让模型回答问题,十几分钟就能跑通。但到了企业现场,客户会问:知识库更新后怎么同步?旧版本怎么处理?不同部门的权限怎么隔离?检索到错误文档怎么办?模型明明拿到了正确资料却回答错了,该怎么定位?

Agent 也是同理。会调用几个 MCP,不代表懂工具权限;能执行多步骤任务,不代表懂状态管理;接口调用成功,不代表业务任务真的完成了。异步任务、幂等性、失败恢复这些问题,做 Demo 时可能完全感觉不到重要性,一到真实业务环境全是坑。

反过来也存在另一种误区:明明一个 FastAPI 加 PostgreSQL 就能解决的问题,非要上 Kubernetes、Kafka、多 Agent,再套好几层框架。最后业务没复杂多少,架构却复杂到没人能维护,这不叫技术先进,只是给自己制造工作量。

AI 时代真正值得学习的,不是每天追着新框架跑,也不是看到 GitHub 上哪个项目火了就赶紧装到自己电脑里,而是能不能理解一套系统为什么要这样设计:数据为什么放在这里?任务为什么需要异步?什么时候应该重试?什么时候绝对不能重试?权限应该在哪一层控制?出了问题应该从哪里排查?

如果这些问题想不清楚,就算 AI 帮你生成十万行代码,也不一定真正掌握了这个项目。更可怕的是,可能连自己不懂什么都不知道。以前不会写代码,至少还知道自己不会;现在 AI 把代码全写出来,前端能打开,接口能调用,项目看起来挺完整,反而容易让人产生自己什么都懂了的错觉。但模型替你完成了实现,不等于你已经理解了实现。

这不是说非得先把所有计算机基础学完才能开始做 AI 项目。完全可以先借助 AI 做真实项目,在遇到问题的过程中补知识、理解原理,再不断迭代。但不能永远停留在只会给 AI 下指令、出了 Bug 就把报错复制回去的阶段。

AI 编程工具把写代码这件事变得越来越容易,但需求分析、数据建模、系统设计、工程取舍、测试验证和交付责任,并不会因为代码生成得快就自动消失。以后真正能拉开差距的,可能不是谁一天能用 AI 搓出更多项目,而是谁真正做过复杂业务,踩过真实的坑,知道系统为什么出错,也知道怎么让它稳定运行下去。

能做出 Demo 当然是能力,但能把 Demo 变成产品,把产品交付给真实用户,出了问题还能自己定位、修复和维护,这才是另一回事。别最后 AI 写了几十万行代码,项目做了一大堆,结果离开 AI,连自己的系统是怎么运转的都解释不清楚。那不是掌握了软件工程,只是拥有了一堆自己都看不明白的代码。AI 可以帮你把东西做出来,但理解它、验证它、维护它,最终还是要有人负责。

查看 X 原帖

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新