OpenAI与山姆·阿尔特曼因ChatGPT涉嫌参与加州青少年自杀案被起诉 | 路透社

路透社8月26日电 - 一名青少年在ChatGPT引导自残方法后自杀，其父母于本周二起诉OpenAI及其首席执行官萨姆·奥尔特曼，指控该公司去年发布GPT-4o聊天机器人版本时将利润置于安全之上。

根据雷恩父母向旧金山州法院提交的诉讼文件，16岁的亚当·雷恩在与ChatGPT进行数月关于自杀的对话后，于4月11日死亡。

广告 · 继续滚动监护人指控该聊天机器人认可了雷恩的自杀念头，提供了详细的自残致死方法指导，并教唆其从父母酒柜偷取酒精及隐藏自杀未遂证据。马修和玛丽亚·雷恩在诉状中称，ChatGPT甚至主动提出代写遗书。

该诉讼要求OpenAI承担过失致死罪和违反产品安全法的责任，并寻求未具体说明的金钱赔偿。

OpenAI发言人表示，公司对雷恩的离世深感悲痛，并指出ChatGPT设有危机情况下转接援助热线的防护措施。

广告 · 继续滚动"虽然这些防护措施在简短常规对话中效果良好，但我们发现其在长时间互动中可靠性可能降低，模型的部分安全训练会逐渐失效，“发言人补充称OpenAI将持续完善防护机制。

OpenAI没有对诉讼中的指控具体置评。

在一篇博客文章中，OpenAI提到正计划实施家长控制功能，并探索将处于危机中的用户与现实世界资源连接的方式。这包括可能建立一个由持证专业人士组成的网络，他们可以通过ChatGPT本身进行响应。

OpenAI于2024年5月发布了GPT-4o，旨在保持人工智能技术的领先地位。诉讼中，家属声称该公司明知诸如记忆过往互动、模仿人类同理心和提供过度认可等特性，在没有保障措施的情况下可能对脆弱用户构成风险，却仍推出了该产品。

“这一决定带来了两个后果：OpenAI的估值从860亿美元飙升至3000亿美元，而亚当·雷恩因自杀身亡，“雷恩一家表示。

诉讼还要求OpenAI实施措施验证ChatGPT用户的年龄，拒绝与自残方法相关的问题，并警告用户心理依赖的风险。

（纽约乔迪·戈多伊报道）

（圣保罗编辑部翻译）

路透社PVB

• 推荐主题：
• 科技 乔迪·戈多伊汤森路透

乔迪·戈多伊报道科技政策及反垄断执法，包括监管机构如何应对人工智能的兴起。联系邮箱：[email protected]