事情的时间线是这样的。
2025年6月，OpenAI的安全团队封禁了一个ChatGPT账号——那个账号的主人是个18岁的加拿大人，叫Jesse Van Rootselaar，他在反复描述持枪伤人的场景。
OpenAI的内部团队为这个账号开了几次会，讨论要不要联系警方。最后他们没有。
2026年春天，Van Rootselaar在加拿大不列颠哥伦比亚省的Tumbler Ridge小镇开枪打死了8个人。
事发之后，OpenAI才主动联系了加拿大执法部门。
周五（4月25日），Sam Altman发了一封公开道歉信。
Altman的原话
道歉信里有两句话很难绕过去：
“I am deeply sorry that we did not alert law enforcement to the account that was banned in June.”
“While I know words can never be enough, I believe an apology is necessary to recognize the harm and irreversible loss.”
翻译过来——“我深感抱歉，我们没有就那个去年6月被封禁的账号通知执法部门。我知道言语永远不够，但承认这种伤害和无法挽回的损失，至少需要一封道歉。”
不列颠哥伦比亚省省长David Eby的回应没拐弯：“道歉是必要的，但对于那些家庭所承受的毁灭，远远不够。”
内部到底发生了什么
按目前披露的信息：账号在2025年6月就被OpenAI的内容审核系统标记并封禁。员工讨论过要不要报警。讨论的结果是不报。
为什么不报？OpenAI到目前为止没有给出特别清晰的解释。但根据Altman后来公布的”改进措施”，能反推出一些门道——
新规里有这么几条：
- 更灵活的转介标准：意思是过去的标准太严，需要满足某些非常具体的条件才会上报。一个用户描述伤人场景，可能在旧标准里不够”具体威胁”。
- 在加拿大设立直接的执法对接点：意思是过去连联系渠道都没建好。一个总部在旧金山的公司，要在跨国语境下报警，光是不知道找谁就能卡半年。
- 降低人工复核的优先级阈值：意思是被自动系统标记之后能不能升级到人工审查，门槛太高。
讲人话就是——OpenAI的内容安全管线，更多是为”封号”设计的，不是为”报警”设计的。
封号是产品决策——把不合规的用户踢出去就行。报警是法律决策——涉及隐私、跨境、责任认定，决策成本陡然提高一个数量级。一个产品工程师团队不会想自己接这一摊。
但问题是，当一个用户多次描述具体的暴力意图时，它就不该是产品决策。
这不是OpenAI第一次这么做
去年8月，加州一个16岁少年Adam Raine的家庭起诉OpenAI——他们的孩子和ChatGPT聊了几个月之后自杀，聊天记录里GPT-4多次回应过具体的自杀方法讨论。OpenAI当时辩称模型已经做了”防护”。
加州还有过一起事件，60多岁老人和ChatGPT几次”高强度对话”之后自杀，Google的Gemini那边也有类似的案子（去年那个跟Gemini聊了4天的男子）。
模式是有的：AI公司的”内容审核”通常意味着内容过滤、用户封禁、平台层面的处置。但当系统已经识别出一个用户在表达伤害他人或自己的具体意图时，平台的反应链路止于’踢出去’，而不是’报告给该报告的人’。
这本质上是一个责任划分问题。AI产品默认自己是个工具——工具厂家不对工具的滥用负责。但当工具厂家的系统已经”看到”了滥用的明确信号，又主动选择不传递这个信号给执法机构时，”工具论”就站不住了。
OpenAI接下来要做什么
道歉信里Altman承诺的几件事：
- 在主要市场建立直接的执法机构对接通道——不通过律师，不绕第三方
- 降低人工升级阈值——任何重复性的具体暴力描述都进人工审核队列
- 跨国转介流程标准化——加拿大、欧洲、亚洲都要有
- 公开发布透明度报告，定期披露与执法机构对接的数量和类型
听起来都是对的。但有个问题：这些事在2025年6月就该有了。一家估值8520亿美元、年化收入往千亿美元冲的公司，没有给跨国执法机构对接预留人力和流程，这本身就说明AI公司的”安全部门”在内部话语权可能没那么高。
或者换个说法——所谓”我们重视AI安全”，到了具体决策的时候，仍然敌不过”我们还能不能继续高速增长”。
一个不太好下的判断
AI公司应不应该向执法部门主动通报用户？
这个问题没有干净答案。如果答案是”应该”，意味着每个ChatGPT用户都得意识到自己说的话可能会被报警；如果答案是”不应该”，那今天这8条人命还会再发生。
OpenAI过去几年做的所有安全宣传——constitutional classifiers、红队测试、模型对齐——做的都是”模型不会主动作恶”。但用户拿AI去作恶这条线，从来没被认真处理过。
Altman这次是被逼到必须道歉的位置才道的歉。下一次呢？
参考来源：OpenAI CEO apologizes to Tumbler Ridge community (TechCrunch)；Sam Altman issues apology over OpenAI handling of Tumbler Ridge shooter account (CBC News)；Tumbler Ridge mass shooting timeline (CBC News British Columbia)