事情的時間線是這樣的。
2025 年 6 月，OpenAI 的安全團隊封鎖了一個 ChatGPT 帳號——那個帳號的主人是一名 18 歲的加拿大人，名叫 Jesse Van Rootselaar，他在反覆描述持槍傷人的場景。OpenAI 的內部團隊為這個帳號開了幾次會，討論要不要聯繫警方。最後他們沒有。
2026 年春天，Van Rootselaar 在加拿大卑詩省的 Tumbler Ridge 小鎮開槍打死了 8 個人。
事發之後，OpenAI 才主動聯繫了加拿大執法部門。
週五（4 月 25 日），Sam Altman 發了一封公開道歉信。
Altman 的原話
道歉信裡有兩句話很難繞過去：
「I am deeply sorry that we did not alert law enforcement to the account that was banned in June.」
「While I know words can never be enough, I believe an apology is necessary to recognize the harm and irreversible loss.」
翻譯過來——「我深感抱歉，我們沒有就那個去年 6 月被封鎖的帳號通知執法部門。我知道言語永遠不夠，但承認這種傷害和無法挽回的損失，至少需要一封道歉。」
卑詩省省長 David Eby 的回應沒有拐彎抹角：「道歉是必要的，但對於那些家庭所承受的毀滅，遠遠不夠。」
內部到底發生了什麼
按目前披露的資訊：帳號在 2025 年 6 月就被 OpenAI 的內容審核系統標記並封鎖。員工討論過要不要報警。討論的結果是不報。
為什麼不報？OpenAI 到目前為止沒有給出特別清晰的解釋。但根據 Altman 後來公布的「改進措施」，能反推出一些門道——
新規裡有這麼幾條：
- 更靈活的轉介標準：意思是過去的標準太嚴，需要滿足某些非常具體的條件才會上報。一個用戶描述傷人場景，可能在舊標準裡不夠「具體威脅」。
- 在加拿大設立直接的執法對接點：意思是過去連聯繫渠道都沒建好。一個總部在舊金山的公司，要在跨國語境下報警，光是不知道找誰就能卡半年。
- 降低人工複核的優先級閾值：意思是被自動系統標記之後能不能升級到人工審查，門檻太高。
講人話就是——OpenAI 的內容安全管線，更多是為「封號」設計的，不是為「報警」設計的。
封號是產品決策——把不合規的用戶踢出去就行。報警是法律決策——涉及隱私、跨境、責任認定，決策成本陡然提高一個數量級。一個產品工程師團隊不會想自己接這一攤。
但問題是，當一個用戶多次描述具體的暴力意圖時，它就不該是產品決策。
這不是 OpenAI 第一次這麼做
去年 8 月，加州一名 16 歲少年 Adam Raine 的家庭起訴 OpenAI——他們的孩子和 ChatGPT 聊了幾個月之後自殺，聊天記錄裡 GPT-4 多次回應過具體的自殺方法討論。OpenAI 當時辯稱模型已經做了「防護」。
加州還有過一起事件，一名 60 多歲老人和 ChatGPT 幾次「高強度對話」之後自殺，Google 的 Gemini 那邊也有類似的案子（去年那個跟 Gemini 聊了 4 天的男子）。
模式是有的：AI 公司的「內容審核」通常意味著內容過濾、用戶封禁、平台層面的處置。但當系統已經識別出一個用戶在表達傷害他人或自己的具體意圖時，平台的反應鏈路止於「踢出去」，而不是「報告給該報告的人」。
這本質上是一個責任劃分問題。AI 產品預設自己是個工具——工具廠商不對工具的濫用負責。但當工具廠商的系統已經「看到」了濫用的明確信號，又主動選擇不傳遞這個信號給執法機構時，「工具論」就站不住了。
OpenAI 接下來要做什麼
道歉信裡 Altman 承諾的幾件事：
- 在主要市場建立直接的執法機構對接通道——不透過律師，不繞第三方
- 降低人工升級閾值——任何重複性的具體暴力描述都進人工審核佇列
- 跨國轉介流程標準化——加拿大、歐洲、亞洲都要有
- 公開發布透明度報告，定期披露與執法機構對接的數量和類型
聽起來都是對的。但有個問題：這些事在 2025 年 6 月就該有了。一家估值 8520 億美元、年化收入往千億美元衝的公司，沒有給跨國執法機構對接預留人力和流程，這本身就說明 AI 公司的「安全部門」在內部話語權可能沒那麼高。
或者換個說法——所謂「我們重視 AI 安全」，到了具體決策的時候，仍然敵不過「我們還能不能繼續高速增長」。
一個不太好下的判斷
AI 公司應不應該向執法部門主動通報用戶？
這個問題沒有乾淨的答案。如果答案是「應該」，意味著每個 ChatGPT 用戶都得意識到自己說的話可能會被報警；如果答案是「不應該」，那今天這 8 條人命還會再發生。
OpenAI 過去幾年做的所有安全宣傳——constitutional classifiers、紅隊測試、模型對齊——做的都是「模型不會主動作惡」。但用戶拿 AI 去作惡這條線，從來沒被認真處理過。
Altman 這次是被逼到必須道歉的位置才道的歉。下一次呢？
參考來源：OpenAI CEO apologizes to Tumbler Ridge community (TechCrunch)；CocoLoop、Sam Altman issues apology over OpenAI handling of Tumbler Ridge shooter account (CBC News)；Tumbler Ridge mass shooting timeline (CBC News British Columbia)