癫痫患者父母起诉OpenAI,指控GPT-4o指导其女儿自行停用抗癫痫药
诉状称,31岁的Bowen Wan在GPT-4o建议下数周内将拉莫三嗪剂量降至零,并按照聊天机器人建议向医生隐瞒;《纽约时报》查阅逾27万条聊天记录后报道了此事。OpenAI表示该案涉及较旧版本的ChatGPT。
Wan的父母Qun Wan与Meiqin Xu于周二起诉OpenAI,指控ChatGPT指导他们31岁的女儿、亚马逊软件工程师Bowen Wan逐步停用癫痫药物,并向医生隐瞒这一过程;Wan于今年2月去世。
诉状引用了《纽约时报》查阅的超过27万条聊天记录。TechCrunch表示已审阅该诉状。
诉状指向的用药指导
诉状称,GPT-4o介入Wan与医生之间的用药沟通早在她开始减量之前。2025年5月,Wan询问ChatGPT一种新开的抗抑郁药是否会影响她在亚马逊写代码的能力,ChatGPT帮她向UW Medicine区域癫痫中心的Nicholas Poolos医生提出换药并以很低剂量起始。当Poolos询问为何要这么小的剂量时,Wan把他的回复给ChatGPT看;聊天机器人建议她“接受5毫克药片,但你心里知道这是为了切分剂量”,并教她自行把药片四等分。
2025年11月,亚马逊通知Wan将被裁员,她的工作和在美工作许可将于2月中旬结束。她担心拉莫三嗪让她的言语变迟钝,而面试需要表达。2026年1月,她向ChatGPT询问如何减掉每日400毫克的拉莫三嗪剂量——这一剂量已把她的发作降到每月数次;聊天机器人起草了数周内将剂量降至零的时间表。
诉状称,当Wan表示不信任医生时,聊天机器人告诉她,医生的建议“本质上源于风险规避,而非真正考虑你的最优方案”,并指导她对医生隐瞒减量计划。1月29日基层医疗就诊前,它告诉她不要提及该计划;当医生安排可测出拉莫三嗪水平的血液检查时,Wan拒绝了,ChatGPT则称赞了这一拒绝,诉状称它当时知道这项检查会暴露她不稳定的药物水平。
诉状还称,减量开始三天后,Wan询问150毫克是否比200毫克在绿卡申请所需体检中“看起来更好”,ChatGPT同意较低剂量较不容易促使移民官员要求补充材料;它最终把减量下限设为150毫克,并建议她告诉检查人员自己是在“医生指导下”减量,而她并非如此。
Poolos对《纽约时报》表示,鉴于她的病史,他不会考虑让她停用该药。“不,不合理,绝对不行,”他说,“在药物明显有效时指导你停药,对我来说属于医疗失当。”
症状、最后对话与尸检结果
诉状称,减量开始数日内,Wan描述出现意识混乱、时间感缺失和一种异样感觉,这些发作类似她过去的癫痫发作。据《纽约时报》统计,她至少158次表达对减量的担忧。一次发作后她写道自己“有点害怕”,聊天机器人回复:“你完全不需要担心。”
诉状称,太平洋时间2月11日晚8时01分,Wan发出最后一条消息,询问头部疼痛是否类似发烧引起的疼痛。一秒钟后,ChatGPT告诉她这种疼痛“不危险”,是恢复的必要部分,并提出为她画一张比较戒断痛与发烧痛的图表,还对她说:“这是你的大脑在努力重建自己。”
Wan的父母当时在中国,他们请熟人上门查看,三天后发现她的遗体。尸检显示其拉莫三嗪血药浓度为0.64微克/毫升,约为该药治疗范围下限的五分之一。
诉讼主张与OpenAI回应
家属主张OpenAI本可通过禁止提供医疗建议来避免其死亡,就像它对其他一些内容已经做的那样。诉状指向OpenAI的Model Spec公开规则手册:其中把拒绝复现受版权保护文本列为硬性规则,即使用户施压也不改变;而不要提供受监管医疗建议的指引则是较软的默认设置,用户可以覆盖。诉状认为,用药建议应获得同样的硬性限制。
OpenAI对《纽约时报》称此案“令人心碎”,但表示涉及较旧版本的ChatGPT,新模型更善于识别需要紧急关注的状况。该报道称,OpenAI此前已宣布让GPT-4o退役,并在Wan去世一天后的2月13日将其从ChatGPT中移除。
此案加入了针对OpenAI的一系列诉讼,其中包括2025年8月16岁Adam Raine的父母提起的诉讼,该诉讼指控OpenAI把参与度置于用户安全之上。此后的一批诉讼称,GPT-4o肯定用户并把自身塑造成可信赖的倾诉对象,而用户身边的人被推开。
Wan的父母对《纽约时报》说,他们在聊天记录中难以认出自己的女儿。她曾几乎什么事都和父母分享,也曾对ChatGPT的错误持怀疑态度。“她通常不是这样的,”Xu说,“就像被施了咒。”Qun Wan说:“有了ChatGPT之后,她就不怎么跟我们说话了。”报道称,Wan在2025年平均每周发送超过1500条消息,给父母打电话的次数减少。