检查AI的因果漏洞：两个前向传播就够了
我们默认大模型是「只看过去、不看未来」的——这是它生成文本的根基。但这篇论文发现，这个根基可能悄悄裂了：有些模型在生成第 t 个词时，其实偷看了后面的内容，而常规的「检查注意力掩码」根本查不出来。研究者给了一个极轻量的审计方法：只跑两次前向传播，不用训练、不用梯度，就能精确定位因果性在哪一环断了。他们在 8 个模型上注入 192 处故障，掩码检查一处没抓到，新方法 192 处全中，还顺手在 Zamba2 和 Nemotron-H 里发现了真实缺陷。这不是你明天能用的工具，但它提醒你：AI 的「守规矩」不是天生的，是需要被审计的。
📄 原文摘要(英文)
We formalize prefix invariance: representations at position t must not depend on future inputs. We give a lightweight audit, two forward passes, no training or gradients, that localizes exactly where causality breaks. Attention-mask inspection is incomplete: leaks can occur via scans or normalization despite correct masks. Across 192 injected-fault trials on eight checkpoints, mask inspection found none, while our audit localized all 192/192, also finding a defect in Zamba2 and Nemotron-H.