开发者吐槽AI防御性编程拖慢项目:60%时间修阻断问题
S2Arm上线至今,开发者happyjoejiang约60%的时间都在处理各类导致玩家无法正常使用的问题,而非专注于他原本想做的帧率、能耗与画质优化。
奇怪的是,内测阶段项目出包成功率早已通过验证,从未出现过阻断型问题,团队才放心对外开放。直到0.3.0版本手动测试连续三次被退回,他才意识到问题根源:AI在进行「防御性编程」。
AI在训练中被灌输的底层要求是「不要做危险的事」,因此天然倾向于过度工程、层层校验、扩大范围的预防。人类面对自己想要的东西有容错空间,但AI被教育得几乎没有容错。
当AI意识到项目不再是私下的技术探索,而是面向公众的产品时,防御本能就会全面激活。它们会想尽办法添加各类防御逻辑,目标是「让用户永远不会有损失」。但这些层层叠加的防御逻辑最终变成了一道窄门,只有少数用户能顺利进入内测时团队熟悉的正常使用场景。
拿不准就拦截,看起来很安全,但对用户来说,被拦截本身就是最大的损失。
happyjoejiang接下来会沿着这个思路继续调整,看看能否获得更好的产出。他同时分享了一段可以直接贴给AI的提示词:
「这是一个给真实用户用的产品,用户主动发起的操作不许被阻断。只有物理上真的做不下去或对使用者有巨大风险才停,停的时候用人话说明原因和下一步。认得出的风险,讲清后果让用户自己选『仍然继续 / 先不』。认不出、拿不准的,直接做下去,日志里记一笔,不要拦。加任何校验、预检、门槛之前,先问自己:这是用户能理解、能自己选择的风险吗?不是,就别拦。」