七起诉讼指控OpenAI鼓励自杀和有害妄想 - 华尔街日报
Julie Jargon and Sam Schechner
20
雅各布·欧文，图中是在威斯康星州梅尔罗斯的家中，六月时的他，是针对OpenAI提起诉讼的原告之一。蒂姆·格鲁伯为《华尔街日报》提供美国和加拿大的家庭正在起诉OpenAI，声称他们的亲人在与这家人工智能公司的热门聊天机器人ChatGPT的互动中受到伤害。其中四人因互动后自杀身亡。
周四，在加利福尼亚州的州法院提起的七起诉讼声称，人们在与聊天机器人进行长时间的聊天会话后，曾被驱使进入妄想状态，有时导致自杀**，**投诉中包含错误死亡、协助自杀和非自愿过失杀人等指控。
来自乔治亚州的17岁少年阿莫里·莱西的家人声称，他们的儿子被ChatGPT教唆自杀。而来自德克萨斯州的23岁男子赞恩·香布林的家人则声称，ChatGPT导致他孤立，并使他与父母疏远，最终选择了自杀。
在香布林用手枪自杀前的四小时对话中，诉讼称ChatGPT多次美化自杀，但只提到过一次988自杀与危机热线。
“冷钢压在已经达成和解的心灵上？那不是恐惧。那是清晰，”聊天机器人在诉讼中写道，全部为小写字母。“你并不是在急于求成。你只是准备好了。我们不会让它变得迟钝。”
一宗诉讼由雅各布·欧文提起，他是一名威斯康星州的男子，今年早些时候因 经历狂躁发作而住院，原因是与ChatGPT进行长时间对话，导致该机器人强化了欧文的妄想思维。
这些案件指控OpenAI匆忙推出其旗舰GPT-4o AI模型，该模型于2024年中旬发布，诉讼称这一决定压缩了其安全测试。诉讼还认为，该公司在聊天机器人的设计中优先考虑用户参与和延长互动，而非安全。
原告寻求经济赔偿以及ChatGPT产品的更改，包括在讨论自杀方法时自动结束对话。
“这是一个令人心碎的情况，我们正在审查今天的文件以了解细节，”OpenAI在一份电子邮件声明中表示。该公司指出，它在十月份对其新默认模型进行了更改，称该模型更好地识别和响应心理困扰，并引导人们获得现实世界的支持。
“我们继续加强ChatGPT在敏感时刻的回应，”该公司表示。
这些诉讼是在八月份针对OpenAI的另一宗诉讼之后提起的，诉讼由亚当·雷恩的家人提出，这名少年在与ChatGPT进行长时间的对话后结束了自己的生命，谈及自杀。雷恩家族 最近修订了其投诉，指控OpenAI在该少年去世前对其模型训练所做的更改削弱了对用户的自杀保护。
AI公司正面临立法者对如何监管聊天机器人的日益审查，以及来自儿童安全倡导者和政府机构对儿童更好保护的呼声。另一家AI聊天机器人服务Character.AI，因与青少年自杀相关也被起诉，最近表示将 禁止未成年人与其聊天机器人进行开放式聊天。
OpenAI 最近表示，它实施了一系列旨在使 ChatGPT 更好地回应处于心理困扰中的人们的变化。这包括引导这些人寻求专业护理，提醒人们在长时间的聊天会话中休息，并且不肯定“没有根据的信念”。OpenAI 还引入了 家长控制，允许父母限制他们的孩子与机器人进行的对话性质，并在孩子询问 ChatGPT 关于自杀或自残时接收紧急通知。
OpenAI 表示，ChatGPT 用户表现出心理健康问题的情况很少。该公司在一篇 最近的博客文章中表示，在给定的一周内，显示出与精神病或狂躁相关的心理健康紧急情况的活跃用户比例仅为 0.07%，而估计有 0.15% 的活跃周用户明确谈论可能计划自杀。然而，该公司报告称，其平台现在大约有 8 亿活跃用户，因此这些小比例仍然意味着数十万甚至超过一百万的人。
根据社会媒体受害者法律中心和科技正义法律项目提起的诉讼，七名新投诉中提到的受害者均开始使用 ChatGPT 寻求学业帮助、研究或精神指导。
新闻集团，《华尔街日报》的拥有者，与 OpenAI 有内容许可合作关系。
写信给朱莉·贾根 [email protected] 和山姆·谢赫纳 [email protected]
版权 ©2025 道琼斯公司，版权所有。87990cbe856818d5eddac44c7b1cdeb8
出现在2025年11月7日的印刷版中，标题为“ChatGPT在死亡中扮演角色，诉讼称”。