Dòng thời gian của sự việc như sau.
Tháng 6/2025, đội ngũ an toàn của OpenAI đã khóa một tài khoản ChatGPT – chủ tài khoản là một thanh niên 18 tuổi người Canada tên Jesse Van Rootselaar, người liên tục mô tả các cảnh tượng dùng súng gây thương tích.
Nhóm nội bộ của OpenAI đã họp nhiều lần về tài khoản này để thảo luận có nên liên hệ cảnh sát hay không. Cuối cùng, họ đã không làm vậy.
Mùa xuân năm 2026, Van Rootselaar đã nổ súng tại thị trấn Tumbler Ridge, tỉnh British Columbia, Canada, khiến 8 người thiệt mạng.
Sau khi vụ việc xảy ra, OpenAI mới chủ động liên hệ với cơ quan thực thi pháp luật Canada.
Thứ Sáu (25/4), Sam Altman đã đăng một lá thư xin lỗi công khai.
Lời của Altman
Trong thư xin lỗi có hai câu khó có thể bỏ qua:
"I am deeply sorry that we did not alert law enforcement to the account that was banned in June."
"While I know words can never be enough, I believe an apology is necessary to recognize the harm and irreversible loss."
Dịch ra – "Tôi vô cùng xin lỗi vì chúng tôi đã không thông báo cho cơ quan thực thi pháp luật về tài khoản đã bị cấm vào tháng 6. Tôi biết lời nói không bao giờ là đủ, nhưng tôi tin rằng một lời xin lỗi là cần thiết để thừa nhận tổn hại và mất mát không thể đảo ngược."
Phản ứng của Thủ hiến British Columbia, David Eby, không hề vòng vo: "Lời xin lỗi là cần thiết, nhưng còn lâu mới đủ cho sự tàn phá mà các gia đình phải gánh chịu."
Chuyện gì đã xảy ra bên trong
Theo thông tin được tiết lộ cho đến nay: Tài khoản đã bị hệ thống kiểm duyệt nội dung của OpenAI gắn cờ và khóa vào tháng 6/2025. Nhân viên đã thảo luận về việc có nên báo cảnh sát hay không. Kết quả thảo luận là không báo.
Tại sao không báo? Cho đến nay, OpenAI vẫn chưa đưa ra lời giải thích rõ ràng. Nhưng dựa vào các "biện pháp cải thiện" mà Altman công bố sau đó, có thể suy ra một số nguyên nhân:
Trong các quy định mới có một số điểm:
- Tiêu chí chuyển tiếp linh hoạt hơn: Nghĩa là tiêu chuẩn trước đây quá chặt, chỉ báo cáo khi đáp ứng các điều kiện rất cụ thể. Một người dùng mô tả cảnh gây thương tích có thể không đủ "mối đe dọa cụ thể" theo tiêu chuẩn cũ.
- Thiết lập đầu mối liên hệ trực tiếp với cơ quan thực thi pháp luật tại Canada: Nghĩa là trước đây thậm chí chưa xây dựng được kênh liên lạc. Một công ty có trụ sở tại San Francisco, muốn báo cảnh sát trong bối cảnh xuyên quốc gia, chỉ riêng việc không biết tìm ai cũng có thể kéo dài nửa năm.
- Hạ ngưỡng ưu tiên cho việc xem xét thủ công: Nghĩa là sau khi bị hệ thống tự động gắn cờ, ngưỡng để được nâng lên xem xét thủ công quá cao.
Nói một cách dễ hiểu – đường ống an toàn nội dung của OpenAI được thiết kế nhiều hơn cho việc "khóa tài khoản" chứ không phải cho việc "báo cảnh sát".
Khóa tài khoản là quyết định sản phẩm – loại bỏ người dùng không tuân thủ là xong. Báo cảnh sát là quyết định pháp lý – liên quan đến quyền riêng tư, xuyên biên giới, xác định trách nhiệm, chi phí ra quyết định tăng lên một cấp độ. Một đội ngũ kỹ sư sản phẩm sẽ không muốn tự mình đảm nhận việc này.
Nhưng vấn đề là, khi một người dùng nhiều lần mô tả ý định bạo lực cụ thể, thì đó không còn là quyết định sản phẩm nữa.
Đây không phải lần đầu OpenAI làm vậy
Tháng 8 năm ngoái, gia đình của Adam Raine, một thiếu niên 16 tuổi ở California, đã kiện OpenAI – con họ đã tự tử sau nhiều tháng trò chuyện với ChatGPT, và trong nhật ký trò chuyện, GPT-4 đã nhiều lần trả lời các cuộc thảo luận về phương pháp tự tử cụ thể. OpenAI khi đó biện hộ rằng mô hình đã có "biện pháp bảo vệ".
California cũng từng có một vụ việc khác, một người đàn ông ngoài 60 tuổi đã tự tử sau vài lần "đối thoại cường độ cao" với ChatGPT. Bên phía Google Gemini cũng có các vụ tương tự (vụ người đàn ông trò chuyện với Gemini 4 ngày vào năm ngoái).
Có một mô hình: "Kiểm duyệt nội dung" của các công ty AI thường có nghĩa là lọc nội dung, khóa người dùng, xử lý ở cấp nền tảng. Nhưng khi hệ thống đã xác định một người dùng đang bày tỏ ý định cụ thể gây hại cho người khác hoặc chính mình, chuỗi phản ứng của nền tảng dừng lại ở việc 'đuổi đi', chứ không phải 'báo cáo cho người cần báo cáo'.
Về bản chất, đây là vấn đề phân định trách nhiệm. Sản phẩm AI mặc định tự coi mình là công cụ – nhà sản xuất công cụ không chịu trách nhiệm về việc lạm dụng công cụ. Nhưng khi hệ thống của nhà sản xuất công cụ đã 'nhìn thấy' tín hiệu rõ ràng của sự lạm dụng, và lại chủ động chọn không truyền tín hiệu đó cho cơ quan thực thi pháp luật, thì 'lý thuyết công cụ' không còn đứng vững được nữa.
OpenAI sẽ làm gì tiếp theo
Trong thư xin lỗi, Altman cam kết một số việc:
- Thiết lập kênh liên hệ trực tiếp với cơ quan thực thi pháp luật tại các thị trường chính – không qua luật sư, không qua bên thứ ba
- Hạ ngưỡng nâng cấp thủ công – bất kỳ mô tả bạo lực cụ thể nào lặp đi lặp lại đều vào hàng đợi xem xét thủ công
- Tiêu chuẩn hóa quy trình chuyển tiếp xuyên quốc gia – Canada, châu Âu, châu Á đều phải có
- Công bố báo cáo minh bạch định kỳ, tiết lộ số lượng và loại hình liên hệ với cơ quan thực thi pháp luật
Nghe có vẻ đúng. Nhưng có một vấn đề: Những việc này lẽ ra phải có từ tháng 6/2025. Một công ty trị giá 852 tỷ USD, với doanh thu hàng năm hướng tới 100 tỷ USD, mà không dành nhân lực và quy trình cho việc liên hệ với cơ quan thực thi pháp luật xuyên quốc gia, điều này tự nó cho thấy 'bộ phận an toàn' của các công ty AI có thể không có tiếng nói cao trong nội bộ.
Hoặc nói cách khác – cái gọi là 'chúng tôi coi trọng an toàn AI', khi đến quyết định cụ thể, vẫn không thể chống lại 'liệu chúng tôi có thể tiếp tục tăng trưởng nhanh hay không'.
Một nhận định khó đưa ra
Các công ty AI có nên chủ động báo cáo người dùng cho cơ quan thực thi pháp luật không?
Câu hỏi này không có câu trả lời rõ ràng. Nếu câu trả lời là 'nên', điều đó có nghĩa là mọi người dùng ChatGPT phải nhận thức được rằng những gì họ nói có thể bị báo cảnh sát; nếu câu trả lời là 'không nên', thì 8 mạng người hôm nay sẽ còn tái diễn.
Tất cả các tuyên truyền về an toàn mà OpenAI đã thực hiện trong vài năm qua – constitutional classifiers, red team testing, model alignment – đều làm về việc 'mô hình sẽ không chủ động làm điều ác'. Nhưng việc người dùng dùng AI để làm điều ác thì chưa bao giờ được xử lý một cách nghiêm túc.
Lần này Altman bị dồn đến chỗ phải xin lỗi mới xin lỗi. Lần sau thì sao?
Nguồn tham khảo: OpenAI CEO apologizes to Tumbler Ridge community (TechCrunch); CocoLoop; Sam Altman issues apology over OpenAI handling of Tumbler Ridge shooter account (CBC News); Tumbler Ridge mass shooting timeline (CBC News British Columbia)