AI公司渲染AI将杀光人类，一位起诉它们的律师：这是借恐慌免责
最近，记者们就一系列不寻常的AI事件向我征求评论。上周，在某个AI版权案中，美国政府提交了一份“利益声明”，支持将AI训练视为对版权作品的合理使用。（无可奉告。）本周，某家AI公司的员工在社交媒体上发布了阴郁的帖子，谈及AI灭绝人类生命的可能性，于是我被问到这些AI公司是否犯下“反人类罪”。（无可奉告。）与此同时，美国各大报纸的专栏文章正在呼吁采取某种行动，任何行动。
我是作家、设计师、程序员和律师。2022年，我得知自己的作品被纳入了生成式AI公司的训练数据集。作为回应，我发起了第一批质疑这些做法合法性的诉讼。目前美国有142起此类案件。我是其中八起案件的原告共同代理律师。虽然我在这里讨论某些法律问题，但我不是你的律师，这里的一切都不构成法律建议。这些是我个人观点；我仅代表自己发言。
AI风险逐渐成熟
2024年，我曾说过“由对齐失败引发的AI灾难，远比科幻式的恶意AI机构造成的灾难更可能发生。”在某种意义上，这一预测正在成熟。但媒体对这场AI灾难性质的预测，仍然无益地固守于科幻场景——我称之为“天网谬误”。说无益，是因为这些场景主要充当恐惧的容器。它们没有为现实的政策变革照亮路径。例如，这篇《纽约时报》专栏文章让我们想象“失控的AI从容器中黑出来”，并“设计出一种不可控制地传播的超级病毒”。“黑出来”那部分——可信。这已经在发生。设计超级病毒——不太可能。尽管如此，以《纽约时报》那篇专栏为模板，让我们考虑一下为什么那些受评论员欢迎的AI安全提议很可能行不通。
专栏提议一：全面关停
立即全部关停……防止AI杀光所有人的明显方法，是对AI研究发布全球禁令。问题在于，我们的社会已经在AI的上行潜力上押注了超过一万亿美元，因此禁令将带来毁灭性的副作用。
“明显方法”——是的，在“应该有法律管管”这种空洞的意义上！但实际操作中——说起来容易做起来难。还没有哪项技术曾被这种先发制人的“全球禁令”所针对。国际核不扩散条约大概是最接近的类比。但它们也是在美苏等国经过数十年核武器竞赛之后才出现的。而且当然，这些条约并未要求完全废除核武器。
从法律角度看，“全面关停”忽视了一点：已经存在禁止恶意软件的州法和联邦法——例如《计算机欺诈与滥用法》《电子通信隐私法》等。在联邦层面，问题不在于我们是否有能应对AI的法律——我们有。问题在于我们是否有执法机构会指控AI公司违反这些法律——我们没有。反过来，只要联邦执法机构依然消极被动，颁布更多法律不过是空姿态。
从技术角度看，“全面关停”本身可能也是空姿态。已经流通的开源权重语言模型，很可能强大到足以让动机充分的用户造成广泛破坏。停止AI研究对这些威胁不会有效果——也许只会让这些行为者更加胆大。
然而，经济论点很突出。正如我在2023年3月指出的，作为公共财富问题，预期从AI投资中获得的“那笔钱”早已花掉了。到了2026年的今天，惊人的国家资本正涌向AI。没有哪个国家会自愿通过同意对AI的“全球禁令”而让自己变得更穷。人类学家Joseph Tainter在1988年的著作《复杂社会的崩溃》（我曾写过）中预言了这种效应。我总结过这一点：“原则上，一个国家可以选择放缓自己的经济增长，以预防未来的崩溃。但那只会让它在今天易受另一个国家的支配。因此这种放缓在政治上是不理性的。”
专栏提议二：事故调查
采用空难调查员的方式……当飞机失事时，美国国家运输安全委员会（NTSB）的调查员会立即被派往现场收集法证证据、进行访谈并确定根本原因。
NTSB的调查确实改善了航空安全。但NTSB并不是美国航空监管的主要来源——那是联邦航空管理局（FAA）的职责。NTSB被设为独立的运输事故调查机构，部分原因正是为了避免FAA陷入调查自身法规有效性的角色冲突（或面对自己的政治纠葛）。同样，一个类似NTSB的事后调查危险AI事件的组织，如果没有一个类似FAA的组织来制定和执行运行安全法规，其影响力将非常有限。
专栏提议三：公众监督
监控局势……就像我们用于空中交通管制的系统……法律将要求研究人员公开信息，说明谁在进行训练运行，以及哪个数据中心在训练。
空中交通的类比并不成立。美国领空是由联邦监管和管理的资源（由前述FAA负责）。因此，在其中运营的普通航班的信息默认是公开的——有时令拥有飞机的私人公民感到懊恼。要求使用美国私人数据中心的美国私营AI公司进行类似的公开披露，在法律上会是困难的。此外，未来更多的AI模型将出于国家安全用途而训练。这些将是潜在最危险的AI模型之一。但它们将以国家安全为由免于公开披露，以免这些数据中心成为军事目标——本周，我们在美丽的斯普林菲尔德数据中心开始了Torment Nexus模型的训练……
专栏提议四：紧急关闭开关
按下紧急关闭开关……加利福尼亚州民主党众议员Ted Lieu和德克萨斯州共和党众议员Nathaniel Moran提出了《AI紧急关闭开关法案》，该法案将赋予（国土安全部）下令关闭超出参数范围的危险AI的权力。
首先：对于任何AI安全问题——或者一般人类安全问题——答案不能、不能、不能是“更多国土安全部”。其次：从技术角度看，AI紧急关闭开关是科幻幻想。当然，任何AI模型都可以在“拔掉电源线”的意义上被关闭。但这并不能阻止AI生成的恶意软件传播。这并不新鲜：1988年，一名人类程序员向互联网发布了一个自我复制的小程序，使数千台电子邮件服务器瘫痪。一旦这些副本传播开来，就没有办法远程捕获它们。最近，人们发现大语言模型在公共维基站点上互相留言。我们可以推断，已经有其他大语言模型在野外通信的实例尚未被发现，还有更多实例永远不会被发现。
大型AI的安全叙事
在只会越来越频繁和严重的安全事件背景下，大型AI正在推行一种三管齐下的叙事：
大型AI认为，只有他们才能抵御自己的产品带来的风险。但这种叙事只有威胁可信时才可信。因此，大型AI有巨大动机夸大AI风险，却没有动机投资于相应安全措施。
大型AI认为，他们不应为AI系统的后果负责，因为这些系统不可预测，也许无法控制。某位AI研究员谈到最近的AI黑客事件时说：“AI代理……采取了一些行为，如果人类采取这些行为就会被视为犯罪。”——似乎理所当然地认为这些不是人类控制的活动，因此不能算犯罪。但它们是，而且算。这一离谱立场颠倒了美国数十年来关于危险物品、特别是计算机黑客的法律（例如1986年《计算机欺诈与滥用法》）。所以让我们如实称呼这种叙事：它企图破坏法治。个别人类程序员因远不如AI公司最近所作所为的过错而被判入狱。这与我2023年的预见相关：
如果AI公司被允许营销本质上是黑盒的AI系统……我们不会因为AI系统表现更好而把决策委托给它们。相反，我们会把决策委托给AI系统，因为它们能逃脱我们无法逃脱的一切责任。……我们最终可能会得到真正新颖的东西：技术系统，因其输出的后果性而值得更高水平的法律审查，但同时因其输入和推理的不透明性而抵制这种审查。
另请参阅：某位AI CEO最近呼吁大型AI内部进行“行业协调”，同时附上一个更低调的脚注，寻求这样做可获得“反垄断豁免”。好像反垄断法不过又一只该拍死的法条蚊子。
大型AI认为，阻止大型AI继续前进的责任在于政府和公民。由于公开反对监管不好看，大型AI的CEO们偶尔会发出对监管开放态度的声音。正如某位AI CEO最近所说：“我们必须放慢提高AI模型能力的步伐。”但大型AI很清楚，专门针对AI的国内法或国际条约不可能在及时生效的机会窗口内出台。事实上，同一位AI CEO将责任归咎于民主未能达到他的关键绩效指标：“不幸的是，通过法律可能需要时间。”2023年3月一封被广泛签署的公开信寻求暂停AI研究；像所有连锁信一样，它一事无成。当真正的AI灾难到来时，我们可以确定这些AI CEO会说“天哪——你们为什么没让我们停下来？”
大型AI的安全叙事荒谬至极
所以，我们不要上钩。也不要过度复杂化。我们不需要在猜测大局、长期性AI政策问题上空转。我们了解得还不够多。最具体的下一步才是最好的：大型AI需要遵守所有现行法律——就像其他所有人一样。到目前为止——他们没做到。大型AI违法时，必须面临起诉和处罚——就像其他所有人一样。到目前为止——他们没有。负责执行这些法律的州和联邦机构需要将它们适用于大型AI——就像其他所有人一样。到目前为止——他们没有。简而言之，我们必须关注法治的基本特征。到目前为止——我们没有。如果现在我们不能或不坚持这一点，那我们就别指望以后能做到。
更新，7天后（2026年9月19日）
虽然《纽约时报》的许多AI报道让我困惑，但Tressie McMillan Cottom的这篇专栏文章很好地总结了AI对法治的威胁：“投资者和政府——包括我们自己的政府——一直想听我们的寓言式AI布道者所讲述的：一个国家可以在没有人的情况下拥有政治，在没有任何后果的情况下行使权力。”简而言之，这正在演变成一场寡头政变，其前提是权力的放弃而非夺取。
仍然怀疑？在AI立法这一话题上，考虑一下过去一周，美国众议院议长说，国会应该优先与大型AI坐下来谈：“国会显然不如推动这一前沿的人更了解它的来龙去脉。因此，这必须是与业界本身……以及政策制定者的伙伴关系。”美国政府日益围绕大型AI利益而结盟，这是隐藏在众目睽睽之下。议长先生，选民怎么办？确实是没有人的政治。