Anthropic 能证明回复出自哪个模型，代价是 70 倍 GPU 时间
Anthropic 在 11 月 2 日发布了一项可验证推理的研究，系统叫 FlashProve，合作者来自 EPFL、MIT 等机构。它用 zkSNARKs 证明一段回复确实由某组已承诺的模型权重生成，证明过程不披露权重。目标很直接：让独立评估者和终端用户都能确认，自己拿到的是被承诺的那个模型，中间的 token 流没被动过手脚。
测试跑在 Llama 4 Maverick 上，一个 400B 参数的混合专家模型，4 位权重。证明覆盖的是模型的整数版本，贪心解码，模型架构本身不做隐藏。
代价摆在那里。生成证明要的 GPU 时间，大约是在 vLLM 上直接跑这个模型的 70 到 95 倍。Anthropic 自己把它定位成研究原型，上下文上限只有 1024 个 token。日常对话的长度，加上这份算力开销，普通聊天窗口短期内用不上。
代码和 Lean 形式化证明以 Apache 2.0 开源，外部开发者可以自己审、自己改。
讨论区里两条高票评论。一条把 FlashProve 类比成同态加密：理论成立，算起来还是太贵。另一条说信任并没有消失，只是从服务商挪到了证明者身上。证明能约束的只有模型身份和 token 流有没有被动过，输出对不对、有没有偏见、安不安全，都不在证明范围里。验证者还得相信证明系统本身没有漏洞。
开源或许能把成本往下压。Anthropic 没说这套方法什么时候能支持更长的上下文和更复杂的解码策略，也没说主流服务商愿不愿意为每条回复多付几十倍算力。眼下的落点更像审计一侧。
关键事实
- Anthropic于11月2日发布了关于可验证推理的研究，系统名为FlashProve，使用zkSNARKs证明回复由特定模型权重生成，且不泄露权重。
- FlashProve的目标是让独立评估者和终端用户都能检查他们被提供的是承诺的模型，并捕捉token流中的篡改。
- 测试模型为Llama 4 Maverick，一个400B参数的混合专家模型，4位权重。
- 证明过程大约需要70到95倍的GPU时间，相比在vLLM上运行模型。
- 代码和Lean形式化证明以Apache 2.0开源。
- Anthropic称其为研究原型，限制包括上下文最多1024个token。
- 证明覆盖的是整数版本的模型，在贪心解码下，且模型架构本身不隐藏。
- 合作者包括EPFL、MIT等。