热评：逐例修AI坏输出不扩展，查失败模式才行，几乎无人这么做

逐条审查AI输出无法扩展。审查失败模式才行，几乎无人这么做。

多数抓到AI坏输出的团队，都是一次一例地抓：有人注意到哪里不对劲，修复那一个具体案例，然后继续。低量时运作良好。一旦输出量增长到超出任何人能实际过目的程度，这套做法就崩了——因为你如今只是在抽样极小一部分正在发生的事情，并且把每一次捕获当作孤立事件，而不是一个症状。

真正能够扩展的，是用足够的结构把失败记录下来，以便观察其形态，而不只是逐条修复。哪些失败聚集在特定输入类型周围。哪些聚集在特定长度或复杂度阈值附近。哪些在某种边界情况之后出现得更频繁。这就能把零散的坏输出，转变为你真正可以围绕它来设计的模式，而不是一股永无止境、从不收敛的一次性补丁流。

对这种做法的抵触是情有可原的——前期更慢，也不像修复某个具体的坏输出那样让人觉得有成效。但一例一例地修复，意味着同一个失败模式会不断穿着略有不同的外衣重现，而没人注意到这背后是同一个缺口，因为每次出现单独看都像是新的。

―― 高票评论（帖子共 5 条讨论）――

[+2] u/WorldsGreatestWorst：你描述的是传统软件开发。如果要加这么多护栏，那还不如忘掉AI，直接用程序化方式构建。

更重要的是，并非所有数据输出都能落入如此严格可定义的启发式规则。那些正是AI原本应该帮助最大的情况。

[+1] u/Im_Talking：但AI可以打持久战，并创造出新颖的办法来绕开规则。于是这些“规则”就成了“它说了算”。