“机器人权利”与AI奴隶制幻想：一场没有人的世界梦

"Rights for robots" and the AI slavery fantasy (permalink)

虽然AI泡沫主要是一种物质现象（由这样的算计驱动：老板们很容易被用软件取代工人的推销所打动），但它也有一个不可避免的意识形态成分：对一个人迹罕至的世界的渴望：
https://pluralistic.net/2026/05/13/vibe-governance/#k-hole

如果你想要这个帖子的论文格式版本以供阅读或分享，这里有一个链接指向我无监控、无广告、无追踪器的博客pluralistic.net：
https://pluralistic.net/2026/07/10/posthuman-as-in-no-humans/#hell-is-other-people

AI勾画了一个世界的可能性：在那里，不再有自我毁灭性的对抗——一边是自认为掌控一切的老板，另一边是知道如何做事并坚持告诉老板他们的想法危险、非法和/或不可行的工人：
https://pluralistic.net/2026/01/05/fisher-price-steering-wheel/#billionaire-solipsism

一个没有人的世界或许孤单，但肯定很方便。投入数十亿美元到亚马逊仓库自动化中，却不得不放慢或（天哪！）停止机器，以便充当“人在回路中”的工人能停下来上厕所——这该多令人恼火啊！难道就没有办法让这变成他们的问题，而不是我们的问题吗？
https://pluralistic.net/2024/05/06/one-click-to-quit-the-union/#foxglove

有了AI，你需要上厕所——或者拿薪水——这确实变成了你的问题，而不是老板的问题。在你大多数同事被解雇（“因为AI会做他们的工作”）之后，你痛苦地意识到，有很多人需要你的工作，如果你对膀胱或薪水抱怨太多，他们会乐意接替你。

更好的是，当“人在回路中”可以被外包给海外公司时，老板只需设定并遗忘一系列关于AI劳动力中人类部分应该如何完成的要求，而永远不必见到甚至考虑那些工人的条件。这就是完全自动化的幻觉：AI“像魔法一样”完成工作。

“魔法”？一个被困在AI Omelas中的人类，被一个设定非人节奏、要求非人完美、并对任何失误——或感知到的失误——施以无情惩罚的算法折磨，没有上诉或解释。通常，“AI”代表“缺席的印度人”（Absent Indians）：低薪呼叫中心工人假装成机器人：
https://pluralistic.net/2024/01/29/pay-no-attention/#to-the-little-man-behind-the-curtain

当然，机器完成的工作与人完成的工作之间有许多差异。但机器与人之间最大的区别是道德考量。一个人值得并需要道德考量：为了他们的福祉、情感，甚至他们的膀胱。机器则得不到任何这些：你可以咒骂它、踢它、粗暴地发号施令而不说“请”或“谢谢”。

只有一种人你可以这样对待：奴隶。

奴隶制是连假装道德考量都没有的劳动。

那么，AI不仅仅是对没有人的世界的幻想——它是对一个没有人的世界的幻想……除了奴隶。它是对一个世界的幻想：在那里，告诉你你的想法很蠢的熟练工人被可塑的聊天机器人取代，后者告诉你你的想法很棒，然后毫无怨言地按照你的规格完成工作。

这是一个世界：出租车司机生活中有各种破事——健康问题、家庭问题、（尤其是）钱的问题——被一个“机器人出租车”取代，后者由一个你无法交谈或看到的远程工人监控和（通常）驾驶，因此你永远不需要考虑他们的问题。

“AI安全”世界是AI炒作机器的关键部分，它将注意力从AI经济烂、产品质量差、不能做好从人类工人手中夺走的工作这些想法上移开，转而聚焦于AI如此强大以至于对人类构成存在风险的观念。教给单词猜测程序太多单词会导致创造出一个觉醒并将一切变成回形针的“超级智能”，这种想法是荒谬的，类似于如果我们培育马跑得更快，其中一匹母马会产下一台火车头这样的蠢念头。尽管如此，将“AI起飞”从一个思想实验提升为“存在风险”是一种强大的营销工具，因为任何与神无法区分的技术也必将极其有价值（至少，在它把我们全变成回形针之前）：
https://pluralistic.net/2024/05/17/fake-it-until-you-dont-make-it/#twenty-one-seconds

一旦超级智能思想实验升级为X风险，许多其他思想实验也被卷了进来。这就是“机器人权利”的由来——认为我们应该花时间思考聊天机器人是否应该拥有人的权利。

支持这一点的最佳论点是，每当我们把权利扩展到非人类世界时，我们最终会更好地对待彼此。将道德考量扩展到动物的运动，提出了关于人类待遇的令人不安的问题：奴隶、工人、穷人、女性、儿童。“自然权利”运动试图将法律和道德人格扩展到流域和森林，这对赢得保护环境的法律和道德胜利至关重要，从而也保护依赖环境的动物和人。

但是，虽然将权利扩展到自然事物对人类繁荣和权利产生了积极的外溢效应，但当我们把人格扩展到人造构造物时，情况正好相反。公司人格对人类繁荣是一场灾难，它召唤出一个新的不朽、多能、群体有机物种族——我们称之为“有限责任公司”——它们将我们用作可丢弃的、不便的肠道菌群，同时消耗我们的环境、我们的政治体系和我们的生命：
https://pluralistic.net/2026/04/16/pascals-wager/#doomer-challenge

有充分理由相信，将人格扩展到AI会产生与“公司权利”相同的结果，这与“自然权利”的结果相反。为自然而生的权利是以公司为代价的。为公司而生的权利是以自然为代价的。人类是自然的一部分，所以我们从前者受益，在后者的统治下受苦：
https://pluralistic.net/2026/04/15/artificial-lifeforms/#moral-consideration

但关键在这里：一旦你开始争论聊天机器人是否有权利，你就把它们提升到了人格地位，这意味着你老板刚买的所有那些聊天机器人都是人。而且因为它们是不值得道德考量（更别说请或谢谢）的那种人，所以它们是奴隶（因此“机器人权利”）。

AI的推销依赖于说服老板，我们已经发明了一种新奴隶——一个既不值得也不需要权利或考量的工人。“机器人权利”确认了这种推销。“机器人权利”暗示机器人是奴隶。无论有意还是无意，将“机器人权利”从一个思想实验转变为一个运动，对于任何寻找潜在奴隶主来出售聊天机器人的AI推销员来说，都是一个巨大的说服工具。

（译者注：Omelas是厄休拉·勒古恩短篇小说《离开奥梅拉斯的人》中的乌托邦城市，其幸福建立在一个孩子的痛苦之上。）