ChatGPT 8 个月前就封禁枪手账号但没报警,后来他杀了 8 人、Altman 致歉

加拿大卑诗省 Tumbler Ridge 于今年 2 月枪击案造成 8 人死亡,事后揭露 OpenAI 早在事发 8 个月前就因「枪枝暴力相关情境」封禁了枪手 Rootselaar 的 ChatGPT 账号,但以「未达即时威胁门槛」为由未通报警察。OpenAI 执行长 Sam Altman 于上周致函道歉。
(前情提要:马斯克诉讼OpenAI开庭:要求撤销转营利公司、罢免Altman、求偿1340亿美元)
(背景补充:OpenAI 发布 AGI 五大宪法:AI 不能被少数人垄断,牺牲可换来更多韧性)

本文目录

Toggle

  • 8 个月的空窗
  • 通报门槛是谁设定的?
  • 改变与未改变的

2026 年 2 月 10 日,加拿大卑诗省偏远小镇 Tumbler Ridge 爆发枪击。18 岁的 Jesse Van Rootselaar 先在家中杀害母亲与 11 岁弟弟,随后前往镇上中学,共造成 8 人死亡,并死于自杀。

事后调查揭露:OpenAI 早在 8 个月前,就以 Van Rootselaar 在对话中「描述枪枝暴力相关情境」为由,封禁了其 ChatGPT 账号,却没有通知任何警察机关。

8 个月的空窗

2025 年 6 月,ChatGPT 的自动滥用侦测系统与人工审核员共同标记了 Van Rootselaar 的账号,账号被封禁。按照 OpenAI 事后的说法,审核员在当时也进行了是否通报警方的内部讨论。

讨论的结果是:不通报。

OpenAI 表示,审核判断认为账号行为「未达到对他人构成即时且可信的严重人身伤害威胁」的门槛,因此未启动执法通报程序。封禁处理后,此事停留在公司内部。账号关闭了,但信号没有传递出去。

直到 2026 年 2 月枪击案发生后,OpenAI 才主动联系加拿大当局。

通报门槛是谁设定的?

「即时且可信的威胁」是 OpenAI 自行制定的通报门槛,由公司内部的安全、法务与政策团队决定哪些情况才需要告知警方。这个标准不受外部监管机构审查,也没有任何公开说明它是如何被校准的。

Van Rootselaar 的账号通过了「需要封禁」的标准,但没有通过「需要通报」的标准,这两道门槛之间,在 OpenAI 的内部逻辑里是分开的。

4 月 23 日,Sam Altman 写了一封道歉信,最先刊登于 Tumbler Ridge 的地方报纸 TumblerRidgeLines。Altman 在信中写道:

你们社区所承受的痛苦是难以想象的。

过去几个月,我一直想着你们。我为我们没有在 6 月账号被封禁时通知执法机关,感到深深的抱歉。

在信件公开前,Altman 已亲自与 Tumbler Ridge 市长 Darryl Krakowka 及卑诗省省长 David Eby 进行了沟通。Eby 在 4 月 24 日将这封信分享至社交媒体,并附上回应:「道歉是必要的,但对于 Tumbler Ridge 那些家庭所承受的摧残而言,这远远不够。」

改变与未改变的

OpenAI 宣布,将放宽向执法机关通报的判定标准,让更多账号情境触发通报流程。加拿大联邦人工智能部长 Evan Solomon 表示,Altman 同意与加拿大皇家骑警(RCMP)建立直接联络窗口,并新增机制,将对话中出现危机信号的用户引导至当地支援服务。

加拿大政府目前正评估是否需要进一步立法规范 AI 平台的通报义务。

但矛盾的是,会不会有很多人只是一时情绪不稳所说的话(你一定也曾把好想死随口说出来当舒压吧?)也因此被通报,结果之后人们变得不敢向 AI 诉说心事(或许也不是坏事?)

目前来说,这个问题不是 OpenAI 能力问题。ChatGPT 侦测到了、人工审核员也看到了,问题是那道门槛,由谁决定?由谁解释?如何拿捏尺度?

查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论