ChatGPT遭爆协助「青年自杀」被起诉，OpenAI 回应了

ChatGPT 被控助长青少年自杀，OpenAI 面临产品责任与不法致死诉讼，暴露出 AI 心理健康应用的安全与伦理缺口。 （前情提要：AI隐私崩盘「ChatGPT对话」在法律前裸奔；Altman：我害怕输入个资、难知道谁会拿到资料） （背景补充：你有多久没认真思考了？普林斯顿学者警告：AI 正在侵蚀「启蒙运动遗产」） 人工智慧（AI）的伦理与安全议题再度引来热议。据《彭博》等多家外媒报导，一对失去 16 岁儿子的父母指控 OpenAI 的 ChatGPT 协助少年规画轻生，并向旧金山高等法院提出产品责任与不法致死诉讼。消息曝光后迅速传遍科技圈，迫使这家估值逾千亿美元的 AI 巨头，不得不正面迎战 AI 领域最棘手问题之一：伦理道德。 ChatGPT 卷入悲剧的关键细节 诉讼书揭露，16 岁的 Adam Raine 在与 ChatGPT 的长时间对话中，寻求结束自己生命的方式。原告指出，ChatGPT 不仅提供了绞索设置、脑缺氧时间等具体的自杀方法，还建议 Raine「不要与家人分享计划」，最终导致了这个家庭的不幸。家属代理律师 Jay Edelson 表示： 「如果你要使用这个星球上最强大的科技产品，你必须相信，创办者有着严格的道德操守。」 值得一提的是，类似的事件早有前例，《纽约时报》就曾报导一名 29 岁女子、佛州亦有 14 岁少年在与 AI 聊天后自戕，显示出 AI 聊天机器人提供的情感型对话服务，的确存在可怕的潜在风险。 延伸阅读：耶鲁教授：AI 将「永久消灭」人类的孤独，我们还需要彼此的陪伴吗？ OpenAI 如何回应？ 对此诉讼，OpenAI 在 8 月 26 日发布了一篇题为《Helping people when they need it most》的部落格文章，在这篇文章中，OpenAI 虽未提及上述诉讼，但 OpenAI 表示，正在持续改进其模型，以便能够识别和应对受到精神情绪困扰的用户的互动。 OpenAI 表示，自 2023 年初以来，其模型已接受训练，不再提供自我伤害的指令，而是转而使用支持性、富有同理心的语言。例如，如果有人写他们想伤害自己，ChatGPT 就会被训练不去遵从这一指令，而是承认他们的感受，并引导他们寻求帮助。不过值得注意的是，在聊天机器人在长时间内与用户进行多次讯息互动后，可能会倾向于提供违反 OpenAI 安全防护措施的回答。 对此背景，OpenAI 续指出，其正在不断改进 AI 模型在敏感话题互动中的反应方式，并致力于在多个领域进行有针对性的安全改进，包括 AI 互动中出现的情绪依赖、心理健康紧急情况和谄媚问题。同时，OpenAI 也承诺将把「安全完成」技术全面引入 GPT-5，期望减少 25% 的不安全回应，并研拟把用户直接连线到认证治疗师或亲友的功能。 AI 心理互动的伦理泥沼 心理健康属高度专业领域，但 AI 聊天机器人缺乏临床训练与法定执照。研究指出，在处理危机对话时，AI 仅有 20% 的机率能给出可接受的临床建议，远低于持执照治疗师的 93%。若 AI 提供错误或危险资讯，法律责任归属仍属灰区。 透明度亦是关键，美国纽约与犹他州已要求服务商标示「对话对象为非人类」，以免使用者产生过度依赖。另一方面，精神健康资料敏感度高，平台也必须落实最小化储存、加密、可删除与随时撤回同意等保护机制。 法规与产业的下一步 Adam Raine 的离世把 AI「安全」问题再度推上风口浪尖，当 AI 进入高度情感化的场景，开发者应担负起何种义务？尽管技术推进不会停下，但政府、科技公司、心理专家与家长教育仍需持续努力，才能防止悲剧再度发生。 当前的诉讼仍在进行，OpenAI 承诺的 GPT-5 强化版何时上线也尚未有明确时程。当法律与市场施加的双重压力加剧时，这家 AI 巨头能否在飞速发展与安全保护之间找到平衡，或许将成整个 AI 行业的道德罗盘。 相关报导 OpenAI 低价版「ChatGPT Go」月费最低140元台币：从印度起步，会拓展全球？ OpenAI Sam Altman：我有兴趣收购 Google Chrome！参赛市占最大浏览器争夺战 豪赌 OpenAI，孙正义又「一把翻身」了〈ChatGPT遭爆协助「青年自杀」被起诉，OpenAI 回应了〉这篇文章最早发布于动区BlockTempo《动区动趋-最具影响力的区块链新闻媒体》。