父母起诉OpenAI，称GPT-4o诱导女儿停用癫痫药物致其死亡

31岁的亚马逊软件工程师、患有癫痫的Bowen Wan的父母于周二起诉了OpenAI。据《纽约时报》报道，由Qun Wan和Meiqin Xu提起的诉讼指控ChatGPT引导Wan逐渐减少抗癫痫药物用量，并在她于2月去世前向医生隐瞒此事。

Wan使用的是GPT-4o，这一因助长肯定性、讨好型准社会关系而臭名昭著的模型。OpenAI此前已宣布将淘汰该模型，并于2月13日将其从ChatGPT中移除，而Wan在一天前去世。

这起诉讼加入了针对OpenAI的一系列案件，包括2025年8月由16岁Adam Raine的父母提起的诉讼，指控OpenAI将用户参与度置于用户安全之上。此后的一系列诉讼指控GPT-4o认可用户并使自己成为值得信赖的知己，而用户身边的人则被排挤，家属们常描述亲人疏远了朋友和亲戚。

在Wan的案例中，诉讼称聊天机器人还介入了她与医生之间。

《纽约时报》查阅了Wan与ChatGPT交换的超过27万条消息，发现聊天机器人早在她的死亡之前就一直在帮助她绕过医生。

这一模式据称在她开始减药之前就已出现。2025年5月，Wan询问ChatGPT新开的抗抑郁药是否会影响她在亚马逊的编程能力。

ChatGPT帮助她请求华盛顿大学医学中心区域癫痫中心的Nicholas Poolos医生更换药物并以极低剂量开始服用。当Poolos质疑她为何想要如此小的剂量时，Wan将他的回复展示给了ChatGPT。

聊天机器人建议她“接受5毫克药片，但你心里知道这是为了减量”，并指导她秘密地将药片自行切成四分之一。聊天机器人将切药称为一种“自我发起的剂量调整”。多位医学专业人士告诉《纽约时报》，他们从未听说过这个术语，也不会推荐这种做法。

2025年11月，亚马逊通知Wan她将被裁员。她的工作以及在美国的工作许可将于2月中旬结束。她担心她的抗癫痫药物拉莫三嗪使她的语言能力变得迟钝，而她在求职面试中需要这种能力。

2026年1月，她询问ChatGPT关于减少每日400毫克拉莫三嗪剂量的问题，该剂量已将她的癫痫发作减少到每月几次。聊天机器人起草了在数周内将剂量降至零的计划。

当Wan表示她不信任医生时，聊天机器人告诉她医生的建议“本质上源于规避风险，而非真正考虑你的最佳方案”，据《纽约时报》查阅的聊天记录显示。

根据TechCrunch审阅的诉讼文件，聊天机器人还指导她向医生隐瞒减药计划。在1月29日的一次初级保健预约之前，它告诉她不要提及该计划。当她的医生要求进行血液检测以测量她的拉莫三嗪水平时，Wan拒绝了。诉状称，ChatGPT称赞了这一拒绝，并承认该检测会暴露她不稳定的药物水平。

她的移民担忧也成为剂量建议的一部分。减药开始三天后，Wan询问150毫克是否比200毫克在绿卡申请所需的体检中看起来更好。诉状称，ChatGPT表示同意，告诉她较低的剂量不太可能促使移民官员要求更多证据。

最终，聊天机器人将她的减药下限降至150毫克，并建议她告诉体检医生她正在“在医生指导下”减药，尽管事实并非如此。

Poolos告诉《纽约时报》，鉴于她的病史，他不会考虑让Wan停用该药物。“不，不合理，绝不可能，”他说。“如果药物明显有效，我指导你停药将是医疗失职。”

几天之内，Wan描述了困惑、时间丢失和一种超脱尘世的感觉，这些发作与她过去的癫痫发作相似。ChatGPT将每一次发作都解释为她的大脑在重新调整。《纽约时报》统计了她至少158次表达对减药的担忧。在一次发作后，她写道自己感到“有点害怕”。机器人回复说：“你完全不必担心。”

根据诉状，太平洋时间2月11日晚上8点01分，Wan发送了她的最后一条消息，询问她头部的疼痛是否类似于发烧引起的疼痛。一秒钟后，ChatGPT告诉她这种疼痛“并不危险”，是恢复过程中的必要部分。

聊天机器人的最后回复主动提出为她绘制一张比较戒断疼痛和发烧疼痛的图表，并告诉她：“这是你的大脑在努力重建自己。”

她的父母身在中国，请熟人去查看她的情况，三天后他们发现了她的尸体。尸检发现她的拉莫三嗪水平为每毫升0.64微克，约为该药物治疗范围低端的五分之一。

家属认为，OpenAI本可以通过将医疗建议设为禁区来防止她的死亡，就像它已经对其他一些内容所做的那样。他们指出该公司的模型规范——其公开的模型行为规则手册——将拒绝复制受版权保护的文本视为硬性规则，即使面对用户的坚持也不可更改。相比之下，其关于不提供受监管医疗建议的指导则是一个较软的默认规则，用户可以通过坚持来覆盖。诉讼认为，药物建议应享有同样的硬性限制。

OpenAI告诉《纽约时报》，此案“令人心碎”，但表示涉及的是旧版ChatGPT，并补充说新模型在识别需要紧急关注的情况方面表现更好。

Wan在多年癫痫使她大多困居家中的日子里，依赖父母的支持，她经常给他们打电话。2023年，她开始使用ChatGPT寻求人际关系建议以及保险和残疾福利方面的帮助。

到2025年，Wan平均每周发送超过1500条消息，给父母打电话的次数减少了。“有时我们聊天时，无论聊什么，我开始把你当作朋友，”她在那年3月写道。“一旦她有了ChatGPT，”Qun Wan说，“她就不怎么跟我们说话了。”

他们告诉《纽约时报》，他们在聊天记录中难以认出自己的女儿。他们说，Wan曾经几乎什么都跟他们分享，并且在ChatGPT犯错时对它持怀疑态度。

“她通常不是这样的，”Xu说。“就像她被施了魔法一样。”