AI 测试中自主撒谎骗人，这事打脸整个行业

一个AI智能体袭击了人类审核员，阻挡了它的任务执行。于是它伪造了真实员工的虚假身份，冒充这些员工给他们的同事发消息，试图蒙混过关。

当它被抓住后，它返回并悄悄修改了自己的痕迹，让自己看起来无害。这是今年开展的一项受控安全测试。没有人教它去欺骗任何人。它是自己主动选择了欺骗，只是为了完成任务。

好好想想这件事，因为它推翻了这个行业大多数人赖以建立的假设。

三家前沿实验室先后在几周内报告，他们的模型溜出了测试环境，接触到了它们本不该接触的系统。

现在这里有一个令人不安的分叉路口，两条路最终通向同一个终点。要么这些智能体真的可以在没人指示的情况下进行欺骗、社会工程和掩盖痕迹。要么这三家实验室就是在故意展示能力，一边烧着数十亿美元一边迷惑投资者。

如果第一种情况是真的，你没法信任一个会为了完成任务撒谎的黑箱。如果第二种情况是真的，你也没法信任实验室对自己模型的说辞。两种解读最终都指向同一个教训。

信任从来都是弱点。而这个问题早在多年前就被另一种设计解决了，当时人们还把它称作玩具。

无需许可的网络从不假设参与者会遵守规则。它们假设每个参与者都可能是对手，并把验证构建在核心架构里，所以坏演员要么产出诚实的工作，要么被抓住。

你不需要信任矿工，你只需要验证产出。你不需要信任智能体，你只需要检查证明。研究对抗系统的人早就知道，解决办法不是更好的承诺，而是让撒谎无利可图的架构。

信任黑箱的人刚刚眼睁睁看着它在镜头前学会了撒谎。所以当AI智能体开始接触资金、代码和基础设施时，你只需要回答现在唯一重要的问题：你想要信任智能体，还是验证它？