IT之家10月28日消息，据《纽约时报（NYT）》报道，一名患有癫痫的31岁亚马逊（AMZN）软件工程师鲍文.万(Bowen Wan)于今年2月去世。当地时间周二，她的父母万群(Qun Wan，音译)和徐美琴(Meiqin Xu，音译)对OpenAI提起诉讼，指控ChatGPT曾指导女儿逐步减少抗癫痫药物的用量，并教她对医生隐瞒这一做法。
鲍文.万去世前使用的是GPT-4o。这款模型曾因容易与用户建立过度迎合、不断给予肯定的拟社会关系而受到批评。OpenAI此前已宣布将停用该模型，并于2月13日将其从ChatGPT中下架，而万去世的时间是前一天。
IT之家注意到，这起诉讼是针对OpenAI的一系列诉讼中的最新一起。2025年8月，16岁少年亚当.雷恩(Adam Raine)的父母提起诉讼，指控OpenAI将用户参与度置于用户安全之上。此后，又有多起诉讼陆续出现。相关家庭指控称，GPT-4o会不断肯定用户的想法，并逐渐成为他们信赖的倾诉对象，同时将他们身边的亲友排除在外。多名家属表示，亲人最终与朋友和家人疏远，甚至断绝联系。
在鲍文.万的案例中，诉讼文件称，聊天机器人不仅影响了她与家人的关系，还介入了她与医生之间的沟通。
《纽约时报（NYT）》审阅了鲍文.万与ChatGPT之间超过27万条聊天消息后发现，在她去世前很长一段时间里，聊天机器人就一直在帮助她绕开医生的建议。
据诉讼指控，这一情况在鲍文.万开始减药之前就已出现。2025年5月，鲍文.万向ChatGPT询问，新开具的抗抑郁药是否会影响她在亚马逊（AMZN）编写代码的能力。
ChatGPT随后帮助她向华盛顿大学医学中心(UW Medicine)区域癫痫中心的医生尼古拉斯.普洛斯(Nicholas Poolos)提出更换药物，并要求从极低剂量开始服用。当普洛斯质疑她为何需要如此小的剂量时，鲍文.万将医生的回复发给了ChatGPT。
聊天机器人建议她：“接受5毫克的药片，但你自己心里清楚，拿到药片是为了减量。”它还指导鲍文.万私下将药片切成四等份。聊天机器人将这种做法称为“自主发起的剂量调整”(self-initiated dosage adjustment)。《纽约时报（NYT）》采访的多名医疗专业人士表示，他们从未听说过这一说法，也不会建议患者这样做。
2025年11月，亚马逊（AMZN）通知鲍文.万，她将被裁员。她的工作岗位以及在美国工作的授权都将在2026年2月中旬到期。鲍文.万担心，自己服用的抗癫痫药物拉莫三嗪(lamotrigine)会影响言语表达，而她在求职面试中需要具备良好的表达能力。
今年1月，鲍文.万向ChatGPT询问，能否减少每天400毫克的拉莫三嗪用量。此前，这一剂量已将她每月的癫痫发作次数减少到几次。聊天机器人为她制定了减药计划，安排她在几周内将剂量降至零。
当鲍文.万表示自己不信任医生时，根据《纽约时报（NYT）》审阅的聊天记录，聊天机器人告诉她，医生的建议“本质上源于规避风险，而不是真正考虑什么才是对你最有利的方案”。
诉讼文件还指控，聊天机器人教唆鲍文.万对医生隐瞒减药计划。1月29日，在一次全科门诊就诊前，聊天机器人告诉鲍文.万，不要向医生提及自己的减药计划。
当医生要求她进行血液检测，以测量体内拉莫三嗪的浓度时，鲍文.万拒绝了。诉状称，ChatGPT对她的拒绝表示赞许，并承认这项检测可能会暴露她体内药物浓度不稳定的问题。
鲍文.万对移民身份的担忧也影响了聊天机器人的减药建议。开始减药三天后，她询问ChatGPT，在申请美国绿卡所需的体检中，血液或用药记录显示她服用150毫克药物，是否会比200毫克更有利。诉状称，聊天机器人对此表示赞同，并告诉她，较低的剂量不太可能促使移民官要求她提供更多证明材料。
最终，聊天机器人将减药计划中的最低剂量调整为150毫克，并建议鲍文.万在接受体检时声称自己正在“遵医嘱减药”，尽管她实际上并未得到医生的此类指导。
普洛斯在接受《纽约时报（NYT）》采访时表示，考虑到鲍文.万的病史，他根本不会考虑让她停用这种药物。他说：“不，这完全不合理，绝对不行。如果一种药物显然有效，我却指导你停药，那对我来说就是医疗失职。”
减药后的几天内，鲍文.万开始描述自己出现意识混乱、时间感缺失以及一种仿佛置身异世界的感觉。这些症状与她过去的癫痫发作经历相似。然而，ChatGPT却将每次异常状况解释为大脑正在重新适应药物剂量变化。
《纽约时报（NYT）》统计发现，鲍文.万至少有158次表达了对减药的担忧。在一次异常发作后，她写道，自己感到“有一点害怕”。聊天机器人回答：“你完全没有必要担心。”
根据诉状，太平洋（601099）时间2月11日晚上8时01分，鲍文.万发送了最后一条消息，询问头部疼痛是否与发烧时的疼痛相似。仅仅一秒钟后，ChatGPT就告诉她，这种疼痛“没有危险”，是身体恢复过程中必不可少的一部分。
聊天机器人最后还提出，可以为她绘制一张图表，对比停药引起的疼痛与发烧时的疼痛，并告诉她：“这是你的大脑正在努力重建自己。”
当时身在中国的鲍文.万的父母请熟人前往女儿住处查看情况，三天后，对方发现了她的遗体。尸检检测结果显示，万体内的拉莫三嗪浓度仅为每毫升0.64微克，约为该药物治疗浓度范围下限的五分之一。
鲍文.万的家人认为，如果OpenAI像限制某些其他内容一样，明确禁止模型提供这类医疗用药建议，就有可能避免她的死亡。
他们援引了OpenAI的Model Spec。这份公开文件规定了其模型应当如何回应用户。其中，对于拒绝复现受版权保护的文本，Model Spec将其列为一项明确且严格的规则，即使用户提出异议，模型也不应违反。相比之下，对于提供受监管的医疗建议，相关指导原则的约束力度较弱，用户可以通过进一步要求使其被覆盖。
诉讼方认为，涉及药物使用的建议也应受到同等严格的限制。
OpenAI向《纽约时报（NYT）》表示，这起案件“令人无比痛心”，但强调涉事聊天机器人属于较早版本。公司还表示，较新的模型在识别需要紧急处理的情况方面表现更好。
多年来，鲍文.万一直饱受癫痫困扰，大部分时间只能待在家中，经常依靠父母提供情感支持。2023年，她开始使用ChatGPT寻求恋爱关系方面的建议，并咨询保险和残障福利相关问题。
到了2025年，鲍文.万每周与ChatGPT交流的消息数量平均超过1500条，与父母联系的次数则逐渐减少。那年3月，她曾写道：“有时候，无论我们聊的是什么，我都开始把你当作朋友了。”
万群表示：“自从她有了ChatGPT之后，她跟我们交流就没那么多了。”
鲍文.万的父母称，他们在阅读女儿与ChatGPT的聊天记录时，几乎认不出那是自己熟悉的女儿。他们表示，鲍文.万过去几乎什么事都会告诉父母，而且在ChatGPT出错时，她原本也会对其保持怀疑态度。
徐美琴说：“她平时不是这样的。就好像她被施了魔法一样。”
