AI Pulse

OpenAI称无违法意图便可免责?法学教授:这只是逃避调查的借口

OpenAI称无违法意图便可免责?法学教授:这只是逃避调查的借口

OpenAI这样的公司能一直逃脱法律制裁吗?专访福特汉姆法学教授Zephyr Teachout

这是一次与Zephyr Teachout的访谈(我的问题以斜体标注),她是律师、作家、法学教授,这次访谈再及时不过了:

你的背景是什么,无论是法律方面还是其他方面?是什么让你对这些议题感兴趣?
我是福特汉姆法学院的法学教授,起草过已生效的科技立法,也有大量未生效的草案;我曾为纽约州总检察长工作,调查其他公司的民事违法行为;我在科技政策与法律领域有超过二十年的研究经验。我之所以加入当前关于AI的辩论,是因为我看到太多人把反复出现的违法证据视为现行法律完全无法触及的东西。

有没有理由认为OpenAI违反了某些法律(至少在另一个时代)可能被执法?哪些法律,为什么?
一般而言,在现实世界中,执法始于存在犯罪证据,然后进行调查。地区检察官不会等所有证据齐全才开始调查犯罪,总检察长也不会等报纸上的所有证据齐全才调查违法行为:他们得知发生了车祸,或某种可能伤害人、财产的产品,然后设法查明发生了什么。现在已经有很多类似车祸的证据。有真实的非法入侵和死亡事件,还有公司自己声称他们在建造某种危险得不合理的东西。

而且,在这个阶段让这类企业违法行为证据异常充分的,是已经有吹哨人指控可能构成刑事和民事违法所需的主观故意。很多人把OpenAI反复声称“我们没有意图造成那些入侵、自杀、谋杀,或制造有缺陷的产品”当作决定性辩护。好吧,当然。不想被追责的人常这么说。他们说他们不是故意的,也不是他们造成的。但警察、检察官和民事执法者不会因此耸耸肩然后继续前进——他们会调查到底发生了什么,现在就应该这样做。

我们知道OpenAI的AI智能体侵入了Hugging Face的服务器,访问了澳大利亚政府的医疗系统,并试图侵入美国教育部网站和一所大学图书馆。根据《计算机欺诈与滥用法》,未经授权试图或实际访问计算机属于联邦犯罪。OpenAI说没有人意图这些行为,但如果司法部把这番话当真,那它会沦为笑柄:传唤OpenAI,查明谁在何时知道什么。已经有证据表明公司知晓未经授权的访问。

就公开证据而言,我毫不怀疑压制内部文件传票的努力会失败。员工是否看到产品开始表现出要侵入的样子?他们发出了哪些警告?执法部门的工作就是查明真相。

在民事法律方面,可能性甚至更多,其中许多已在已提起的诉讼中被提出。妨害法(nuisance)和异常危险活动法都与本次讨论相关。每个法学院学生都知道,从某块土地上的水淹没了另一人的矿井的案例开始,如果你把某种危险物带到你的土地上,它逸出并造成损害,即使你已经尽到谨慎义务,你也要承担责任。美国法律称之为“异常危险活动”的严格责任:爆破、储存有毒化学品、飞机喷洒农药。

《侵权法重述(第二次)》判断一项活动是否属于该类别的因素:
对人身、土地或财产造成损害的高风险。
损害可能很大。
通过合理注意无法消除该风险。
该活动不属于通常用途。
该活动与其进行的场所不相称。
其对社区的价值被其危险性所抵消。

公司自身关于风险的声明在这里似乎高度相关。正如前FTC主席Lina Khan最近主张的,根据现行消费者保护和产品责任法,AI产品应被视为有缺陷的产品。她基于这些理由已对AI公司展开调查。她的框架很重要,因为它将AI责任与法院已经理解的一个世纪的产品责任法联系起来。公司通过声称我们处于法律真空而获利。

还有这么多其他法律,以及州和联邦对缺陷产品和危险产品的禁令。我的观点是,公司的利益有两方面:
让AI显得没有任何类比,因此我们无法从其他案例中学习
让“无意图”的断言显得可信,尽管在正常法律中这些断言并不可信

我强烈认为我们应该通过更多州和联邦法律来应对具体风险,尤其是部署前的风险,并明确哪些行为是违法的。但问题在于,如果从未来而不是现在开始,我们就会让所有检察官、总检察长和联邦政府摆脱责任,而我们本应资助执法并支持私人执法。

这些事件可能构成计算机犯罪吗?
实际上,这个领域已经做了最严肃的法律分析,不同专家得出了不同结论。但大多数讨论是在一个假设下进行的:没有内部文件显示责任。我们应该拒绝这个假设。总结一下:联邦《计算机欺诈与滥用法》将未经授权的试图或实际访问计算机定为联邦犯罪,各州也有自己的计算机侵入和未经授权访问法规,其意图标准各不相同。联邦法规是为人黑客编写的。所以很多争论在于它们是否能涵盖一个在无人直接指示下侵入系统的自主AI智能体。在这个假设下,许多专家认为存在民事责任,但对刑事责任更为怀疑。但在现实世界中,我们需要知道实际发生了什么样的公司知情和控制。这是联邦调查人员的工作,他们不应该再次只是接受公司推动的辩护。

如果联邦政府继续几乎不作为,各州能做些什么?
各州是关键。地方地区检察官负责大部分刑事执法,州总检察长负责民事执法(尤其是当联邦政府缺席时)。虽然版权相关犯罪被联邦法优先,但州法律有时范围更广。纽约的计算机犯罪法规禁止未经授权使用计算机和计算机侵入。毫无疑问其他州也有类似规定。纽约上诉法院维持了对某人复制高盛交易代码的定罪,即使该行为在联邦法律下不违法。重点不是说OpenAI犯了所有这些罪,而是所有这些似乎都应该被调查,以及更多。

或者考虑证据:ChatGPT给了用户导致自杀、致命药物过量和三起杀人事件的信息和建议(FSU枪击案、USF谋杀案和康涅狄格州的一起谋杀-自杀案)。当然OpenAI否认责任,但关键证据不公开。

如果这些死亡发生在纽约,检察官会希望查看州的刑事协助法规,该法规要求证明公司认为某个特定用户意图犯罪的可能性很大。这需要传票来查明公司人员到底做了什么、没做什么。对于过失杀人罪,检察官会调查故意协助自杀或刑事疏忽杀人。纽约的公司责任法规允许检察官证明高管鲁莽地容忍已知风险。

1990年,一辆夏令营校车发生车祸,导致两名儿童死亡。检察官指控该营地的执行董事在将校车投入使用前从未检查或修理过磨损严重的危险轮胎。运营该营地的公司被判犯有刑事疏忽杀人和鲁莽危害罪。公司未能感知到一个重大且不正当的风险,其行为方式严重偏离了理性人的行为标准。此外,公司有意识地无视了一个重大且不正当的风险。所有这些先例都可以参考。OpenAI是否像是在雨天把车辆派出去,不检查轮胎,还超载?我们需要更深入挖掘才能知道,但我们已经接近这个范围了。

各州还有关于缺陷产品、不公平和欺骗的法律,可能适用。各州没有FTC,但拥有与FTC类似的权力。

最强大的工具是解散从事反复违法行为的公司,或禁止它们在该州经营。例如,纽约《商业公司法》赋予总检察长对反复、持续违反法律的公司进行司法解散的义务。这在对特朗普集团的处理中有名,并带来了重大变化,但也用于其他公司。这一系列潜在违法行为表明,各州应该动用这些权力,认识到一个屡次违法的公司不应享有州授予的公司特权。

像OpenAI这样的公司是否容易在其他国家受到指控?例如,澳大利亚能采取行动吗?
当然。我不是澳大利亚专家,但大多数国家都有禁止盗窃、计算机访问犯罪和协助其他犯罪的法律。侵入医疗系统当然不可能是合法的。

我还应该问你什么?你有一个庞大而精明的受众,我有个请求:应该有人建一个网站,把所有可能的违法行为集中在一处展示,因为我理解地方检察官可能会感到不堪重负,但他们在这里至关重要。不是每个潜在法律都被证明被违反了,但关键是让检察官和总检察长开始思考。我曾在资源不足的执法机构内部工作过,也密切观察过其他机构,外部团体为执法者做一些前期工作是多么有帮助,人们对此低估了。在那个网站/数据库中,使用以往法律中的类比。法律生活中很大一部分是通过类比发生的,展示相似的例子对理解现有法律覆盖什么、不覆盖什么非常有帮助。

第二,我认为这将会发生,国会应该对这些公司进行严厉调查。各州和城市也应该如此。纽约市议会已发出传票。很好。各州、联邦政府和城市都应该传唤公司来作证并分享文件,尤其是关于具体危险和主观故意(心理状态)的文件。我指的不是一天的作秀听证会,而是持续数月的调查,让CEO以及中低层员工都来作证,并让他们分享文件。当公司声称存在灾难性风险时,我们应该认真对待,并确保投资者和公众真正了解这些风险。

附言:突发新闻,在Teachout教授发送答案后刚刚出现:

Andrew Curran @AndrewCurran_
FTC已对Anthropic和OpenAI以及其他未具名实验室展开调查。2026年9月30日下午3:17 · 14.3K次查看 · 40条回复 · 32次转帖 · 297个赞

无帖子

阅读原文
📚 相关主题 法律商业

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新