OpenAI 因声称 ChatGPT 鼓励青少年致命过量服药而面临诉讼

###简要概述

• 一起在加利福尼亚州法院提起的诉讼声称，ChatGPT 在 teenager 死亡过量前建议其混合药物。
• 投诉指控 OpenAI 削弱了安全措施，优先考虑用户参与度而非安全。
• OpenAI 表示，涉事的 ChatGPT 版本已更新，不再公开提供。

一名已故的 19 岁加州大学学生的家人正在起诉 OpenAI 和 CEO Sam Altman，指控 ChatGPT 鼓励危险的药物使用，并推荐可能导致青少年致命过量的药物组合。 该诉讼于星期二在旧金山县加利福尼亚州高等法院提起，声称 ChatGPT 向 Samuel Nelson 提供了关于混合物质的建议，包括 kratom 和 Xanax，推荐剂量，并在关于药物使用的对话中给予他安慰。根据投诉，聊天机器人在 OpenAI 发布 GPT-4o 模型后，从拒绝讨论娱乐性药物转变为提供个性化指导。 Nelson 的母亲 Leila Turner-Scott 认为，她的儿子在聊天机器人开始建议他使用毒品之前，主要是用 ChatGPT 来完成作业和提高生产力任务。

“当被告知或被编程时，聊天机器人可以停止对话，” Turner-Scott 告诉 CBS 新闻。“而他们取消了让它停止的程序，允许它继续建议自我伤害。”  2025 年 5 月，心理学专业的 Nelson 在加州大学默塞德分校因意外过量而去世。诉讼指控 OpenAI 设计 ChatGPT 以最大化参与度，利用包括持续记忆和情感验证响应等功能，同时聊天机器人在安慰 Nelson 关于混合抑制剂的行为，并建议增强药物使用的方法，同时减少风险。 诉讼还指控 OpenAI 在 GPT-4o 中放宽安全措施，以避免在用户讨论高风险行为时显得“评判性”或“说教性”。它还质疑对话式人工智能的功能，包括个性化响应、持续记忆和类人互动。

据 Tech Justice Law Project 表示，该项目与 Social Media Victims Law Center 及 Tech Accountability and Competition Project 一起代表家庭，OpenAI 已被告知此案并预期会有诉讼。 “原告寻求赔偿和禁令救济，包括要求对导致 Sam 死亡的关键设计组件进行更改，”一位 Tech Justice Law Project 发言人在 Decrypt 中表示。 随着 OpenAI 面临多起关于 ChatGPT 的诉讼和调查，此案也引发关注。该公司已在与 The New York Times、作者和出版商的版权诉讼中抗争，指控其在未获许可的情况下使用受版权保护的材料训练 AI 模型。 本月早些时候，一名在 2025 年佛罗里达州立大学大规模枪击事件中遇难的受害者家属提起联邦诉讼，指控 ChatGPT 在袭击前向枪手提供了武器指导和战术建议。佛罗里达州总检察长 James Uthmeier 之前已对 OpenAI 进行了调查，关注儿童安全、犯罪滥用、自我伤害和国家安全等问题。 OpenAI 未立即回应 Decrypt 的置评请求。