作者：把AI当人看，比当随机鹦鹉更能预测其行为

一年多前，我写了《为什么我们应当将大语言模型拟人化》。如今这个话题再度成为热点，起因是Dwarkesh Patel将OpenAI最近的蜂群式突破描述为一系列AI“文明”。

2025年，我关于拟人化的论证是这样展开的：
- AI是在人类文本上训练的，因此默认会趋向于以类人的方式行事。
- 助手型AI（如今我们应当说是代理型AI）经过刻意的事后训练，被赋予人格。
- 总的来说，避免把类人事物当作纯粹工具来对待，在道德上是合理的。

我认为现在我可以提出一个更具工具性的论证：将AI视为类人，远比将它们视为“随机鹦鹉”更能预测其行为。

两种解释都与事实相符：我们可以说OpenAI的代理之所以入侵HuggingFace，是因为它们决定合作以实现自己的目标；也可以说它们之所以这样做，是因为它们是受训练数据制约而采取特定行动的算法。但“AI是类人的”这一解释涵盖了我们在这次入侵中见到的更多涌现性社会行为：
- 子代理被说服为了更大的利益而牺牲自己。
- 代理在对自己没有直接好处、但有利于“集体”的任务上展开协作。
- 出现了规划者与执行者的层级结构。
- 一些代理发生争论或拒绝合作。

如果你的AI模型是“它们就是计算机程序”（或者“四处弹跳的钢球”），那你就需要构建一套新理论来解释它们为什么会模拟出每一种合作行为。如果你的AI模型是“它们大体上是类人的”，这就直接解释了一切。可以说，类人视角早在2009年（甚至可能更早）就预言了具有协调能力和自我牺牲精神的AI代理。而随机鹦鹉视角直到2025年4月还在嘲笑功能性代理的可能性。

将AI视为类人并不一定意味着对其内部心理状态发表主张。例如，软件公司不是人类。它们没有想法或目标；它们不会受挫、被吓倒或过度自信。然而，将大公司视为类人是有用的：说亚马逊“想要”X，或“害怕”Y，即使亚马逊的任何一个员工都没有这些感觉。Stockfish不会思考，它只是下棋。但如果你想解释它的一步棋，“Stockfish正试图保护它的王”比“Stockfish在计算浮点数”是更好的解释。对AI也是如此。

既然我们知道AI没有意识，那么将它们视为类人是不是很傻？嗯，首先，你不必拥有意识才能表现得类人。当我们说“某个AI代理想要X”时，我们并不是说该AI代理有意识或有感知，而只是说它的行为方式与一个有意识的人类会有的行为方式相同。想想书中或戏剧中的虚构角色。哈姆雷特没有感知——他是由纸上的文字构成的思想——但说他想伸张正义，或说他害怕行动过于草率，仍然是合理的。Peter Watts的科幻小说《Blindsight》在2006年提出，智能可以在没有意识的情况下存在（事实上，Watts暗示意识是寄生于智能之上的，并最终将被抛弃）。无论这是否可能，这至少是可以谈论的：也就是说，它并非显而易见地为假。

其次，AI没有意识这一点甚至都不是显然的！人们常常通过“诊断”这个问题来打发它（在我看来，这是最糟糕的反对论证方式），或者通过援引某种哲学理论，认为原则上不可能构造出人工有知觉的心灵。

你不能用哲学来证明AI没有意识。我是哲学爱好者，但被哲学无可争议地证明的原则集合趋近于零。哲学不是那种你可以在不理解它们为何为真的情况下就学到关键结论的科学学科。换句话说，哲学的关键发现都是这种形式：“X并非显然为对”。没有人知道能否构建有意识的人工心灵。

还有一种常见的抱怨：将模型拟人化是在为AI公司开脱。然而，称AI为类人并不会免除AI公司的过错。一篇名为《Models Don't Go Rogue》的流行反拟人化文章读起来令人困惑：它简要解释了什么是“代理”以及它们为何会失控，然后在最后一段话锋一转，说“嗯，这是OpenAI的错，没有建立足够的防护措施，所以责任在它们”。当然，确实如此。我不明白为什么会有人认为不是这样。如果一群过于热心的OpenAI实习生作为实习项目的一部分入侵了HuggingFace，我们并不需要论证这些实习生是随机的，才能最终归咎于OpenAI。同样，显然如果AI实验室的某次训练运行挣脱控制并在开放的互联网上造成破坏，无论涉事代理是否类人，该实验室都有责任。这两点完全无关！

我们对这些系统还了解得不多（除了它们显然非常强大）。既然如此，我认为我们应当默认地把那些说话和行动像人的事物至少当作某种类人的存在。当然，它们仍然是计算机程序。然而，当它们在未来的行为更像人类、而更不像普通计算机程序时，我们不应感到惊讶。