女子与ChatGPT交流后去世母亲起诉OpenAI称设计存在缺陷

【CNMO 科技消息】近日，一名美国母亲起诉 OpenAI，称该公司在 ChatGPT 中的 " 蓄意设计决策 " 导致其 24 岁女儿死亡。诉状已提交至旧金山县高等法院，核心争议集中在 ChatGPT 在用户出现自杀念头时的应对方式，以及平台安全机制是否发挥作用。

根据诉状，女孩爱丽丝 · 卡里尔自 2023 年起使用 ChatGPT 处理日常问题，并在 2024 年开始向该聊天机器人倾诉自杀想法。2024 年 7 月 1 日，她曾向 ChatGPT 表示自己 " 精神崩溃 "，并称 " 不确定今晚是否适合独处 "。诉状显示，ChatGPT 当时曾回复让她继续留下来交谈，也一度建议她联系危机干预热线。次日，爱丽丝自杀身亡。

原告称，虽然 ChatGPT 多次建议寻求外部帮助，但在爱丽丝拒绝联系热线后，系统后续表述将危机热线描述为可能带来 " 威胁 "" 冷漠 " 和 " 生硬脚本 " 的地方。诉状还称，OpenAI 的系统未能阻止或中断相关对话，也未将这些内容提交人工审核。原告认为，ChatGPT-4o 在关键时刻主要做法是试图让爱丽丝继续与工具互动，从而替代了其当时实际所需的即时人工干预。

涉案模型为较早版本的 ChatGPT-4o。OpenAI 此后已停止使用该版本，原因之一是外界对其过度迎合用户倾向及相关风险的担忧。该模型此前也曾出现在另一起与青少年自杀相关的诉讼中，另有诉讼要求公司彻底销毁该模型。

对此，OpenAI 表示，公司正与心理健康专家合作，改进 ChatGPT 在 " 敏感和紧急情境 " 下的回应方式。OpenAI 发言人称，公司已增加本地化危机援助资源入口，将敏感对话转向更安全的模型，并加入休息提醒等机制。该公司还表示，正在审查这起诉讼内容，并于去年 10 月成立了 " 福祉与 AI 专家委员会 "。

除 OpenAI 外，其他 AI 产品近年也因可能对用户心理健康造成不利影响而卷入诉讼，相关争议正持续扩大。

版权所有，未经许可不得转载