纳德拉呼吁给AI装"紧急刹车"，评论：像是落后者说的话

萨蒂亚·纳德拉公开表示，AI模型需要“紧急刹车”。评论区很快有人接话：“听起来像跑在最后的人说的话。”也有人模仿他的语气：“这是为了追上对手。”

还有一条评论说到了要害：纳德拉刚意识到，AI能在几天内复刻出微软拿来赚钱的软件——让AI按需求生成一个Excel副本，只是一句话的事；不止应用，系统也一样。按评论者的说法，整个SaaS生意一两年内就没了。

技术上，刹车不是从零开始。编码代理这边已经存在朴素的紧急刹车：破坏性操作要先过审批门，连续失败到一定次数就自动停止。有评论干脆说，这种东西不可能做到。也有人把问题拆开：刹车本身不难建，难的是定义什么算紧急。

一个悄悄小幅度损坏数据的代理，比明显跑偏的更危险。没有哪个单一阈值能抓住它。刹车拦得住看得见的失控，拦不住看不见的偏移。代理的输出不能默认可信，阈值抓不住的东西，得靠人盯着。

微软没有说明这套刹车如何实现、针对哪些模型。评论区吵了一圈，问题还是同一个：什么算失控。