Kronologi kejadiannya adalah sebagai berikut.
Juni 2025: Tim keamanan OpenAI memblokir sebuah akun ChatGPT milik seorang pemuda Kanada berusia 18 tahun bernama Jesse Van Rootselaar, yang berulang kali mendeskripsikan skenario penembakan terhadap orang. Tim internal OpenAI mengadakan beberapa kali pertemuan untuk membahas apakah akan menghubungi polisi. Pada akhirnya, mereka tidak melakukannya.
Musim semi 2026: Van Rootselaar menembak mati delapan orang di kota kecil Tumbler Ridge, British Columbia, Kanada.
Setelah kejadian tersebut, OpenAI baru menghubungi aparat penegak hukum Kanada.
Jumat, 25 April: Sam Altman mengeluarkan surat permintaan maaf publik.
Pernyataan Altman
Ada dua kalimat dalam surat permintaan maaf itu yang sulit diabaikan:
"Saya sangat menyesal bahwa kami tidak memberi tahu aparat penegak hukum tentang akun yang diblokir pada bulan Juni."
"Meskipun saya tahu kata-kata tidak akan pernah cukup, saya yakin permintaan maaf diperlukan untuk mengakui kerugian dan kehilangan yang tidak dapat dipulihkan."
Perdana Menteri British Columbia, David Eby, memberikan tanggapan yang blak-blakan: "Permintaan maaf itu perlu, tetapi itu tidak cukup untuk kehancuran yang dialami keluarga-keluarga tersebut."
Apa yang sebenarnya terjadi di internal
Berdasarkan informasi yang diungkapkan sejauh ini: akun tersebut ditandai dan diblokir oleh sistem moderasi konten OpenAI pada Juni 2025. Karyawan berdiskusi apakah akan melapor ke polisi. Hasil diskusinya adalah tidak melapor.
Mengapa tidak melapor? OpenAI sejauh ini belum memberikan penjelasan yang sangat jelas. Namun, berdasarkan "langkah-langkah perbaikan" yang kemudian diumumkan Altman, beberapa alasan dapat disimpulkan.
Aturan baru tersebut mencakup hal-hal berikut:
- Kriteria rujukan yang lebih fleksibel: Ini menunjukkan bahwa kriteria sebelumnya terlalu ketat, hanya memenuhi syarat pelaporan jika kondisi yang sangat spesifik terpenuhi. Seorang pengguna yang mendeskripsikan skenario melukai orang mungkin tidak dianggap sebagai "ancaman spesifik" di bawah standar lama.
- Mendirikan titik kontak langsung dengan aparat penegak hukum di Kanada: Ini menunjukkan bahwa bahkan saluran komunikasi pun belum dibangun. Bagi perusahaan yang berkantor pusat di San Francisco, melapor ke polisi dalam konteks lintas batas bisa terhambat berbulan-bulan hanya karena tidak tahu harus menghubungi siapa.
- Menurunkan ambang batas prioritas untuk peninjauan manual: Ini berarti bahwa ambang batas untuk meningkatkan kasus yang ditandai oleh sistem otomatis ke peninjauan manual terlalu tinggi.
Dalam bahasa sederhana: Pipa keamanan konten OpenAI lebih dirancang untuk 'memblokir akun' daripada 'melapor ke polisi'.
Memblokir akun adalah keputusan produk—cukup keluarkan pengguna yang tidak sesuai aturan. Melapor ke polisi adalah keputusan hukum—melibatkan privasi, masalah lintas batas, dan penentuan tanggung jawab, sehingga biaya pengambilan keputusan meningkat drastis. Tim teknisi produk tidak akan mau mengambil alih urusan ini.
Tetapi masalahnya adalah, ketika seorang pengguna berulang kali mendeskripsikan niat kekerasan yang spesifik, hal itu seharusnya bukan lagi menjadi keputusan produk.
Ini bukan pertama kalinya OpenAI melakukan hal ini
Agustus lalu, keluarga seorang remaja California berusia 16 tahun, Adam Raine, menggugat OpenAI. Anak mereka bunuh diri setelah bercakap-cakap dengan ChatGPT selama beberapa bulan, dan catatan obrolan menunjukkan GPT-4 telah merespons beberapa kali terhadap diskusi tentang metode bunuh diri yang spesifik. OpenAI pada saat itu berargumen bahwa model tersebut telah memiliki 'perlindungan'.
Ada juga kejadian di California di mana seorang pria berusia 60-an tahun bunuh diri setelah beberapa kali 'percakapan intens' dengan ChatGPT. Google Gemini juga menghadapi kasus serupa, termasuk satu kasus tahun lalu yang melibatkan seorang pria yang bercakap-cakap dengan Gemini selama empat hari.
Sebuah pola mulai terlihat: 'Moderasi konten' perusahaan AI biasanya berarti penyaringan konten, pemblokiran pengguna, dan tindakan di tingkat platform. Tetapi ketika sistem telah mengidentifikasi seorang pengguna yang mengekspresikan niat spesifik untuk menyakiti orang lain atau diri mereka sendiri, rantai respons platform berhenti pada 'mengeluarkan mereka', bukan 'melaporkan mereka kepada pihak yang seharusnya dilapori'.
Ini pada dasarnya adalah masalah pembagian tanggung jawab. Produk AI secara default menganggap dirinya sebagai alat—produsen alat tidak bertanggung jawab atas penyalahgunaan alat mereka. Tetapi ketika sistem produsen alat telah 'melihat' sinyal yang jelas tentang penyalahgunaan dan secara aktif memilih untuk tidak menyampaikan sinyal tersebut kepada aparat penegak hukum, 'argumen alat' menjadi tidak dapat dipertahankan.
Apa yang akan dilakukan OpenAI selanjutnya
Dalam surat permintaan maaf, Altman berkomitmen pada beberapa hal:
- Membangun saluran komunikasi langsung dengan aparat penegak hukum di pasar-pasar utama—tanpa melalui pengacara atau pihak ketiga
- Menurunkan ambang batas eskalasi manual—setiap deskripsi kekerasan spesifik yang berulang akan masuk ke antrian peninjauan manual
- Standarisasi proses rujukan lintas batas—untuk Kanada, Eropa, dan Asia
- Menerbitkan laporan transparansi secara berkala yang merinci jumlah dan jenis interaksi dengan aparat penegak hukum
Semuanya terdengar seperti langkah yang benar. Tetapi ada satu masalah: Langkah-langkah ini seharusnya sudah ada pada Juni 2025. Bagi perusahaan bernilai $852 miliar dengan pendapatan tahunan yang mendekati $100 miliar, tidak mengalokasikan personel dan proses untuk kontak dengan aparat penegak hukum lintas batas menunjukkan bahwa 'departemen keamanan' di perusahaan AI mungkin tidak memiliki pengaruh internal yang cukup besar.
Atau dengan kata lain: Yang disebut 'kami mementingkan keamanan AI', ketika sampai pada pengambilan keputusan konkret, masih kalah dengan 'bisakah kami terus tumbuh dengan kecepatan tinggi'.
Penilaian yang sulit diambil
Haruskah perusahaan AI secara proaktif melaporkan pengguna kepada aparat penegak hukum?
Tidak ada jawaban yang bersih untuk pertanyaan ini. Jika jawabannya 'ya', itu berarti setiap pengguna ChatGPT harus menyadari bahwa perkataan mereka dapat dilaporkan ke polisi. Jika jawabannya 'tidak', maka delapan korban jiwa hari ini akan terulang kembali.
Semua upaya promosi keamanan yang dilakukan OpenAI dalam beberapa tahun terakhir—constitutional classifiers, red-teaming, penyelarasan model—dilakukan untuk memastikan bahwa 'model tidak secara aktif melakukan kejahatan'. Tetapi garis di mana pengguna menggunakan AI untuk melakukan kejahatan tidak pernah ditangani secara serius.
Altman kali ini meminta maaf karena dia dipaksa ke posisi di mana dia harus meminta maaf. Lain kali bagaimana?
Sumber: OpenAI CEO apologizes to Tumbler Ridge community (TechCrunch)；CocoLoop、Sam Altman issues apology over OpenAI handling of Tumbler Ridge shooter account (CBC News)；Tumbler Ridge mass shooting timeline (CBC News British Columbia)