Seorang perempuan berusia 30 tahun di Lee County, Florida, Amerika Serikat, didakwa dengan tindak pidana berat (felony) tingkat kedua setelah menulis dalam percakapan dengan Claude bahwa ia ingin "menembaki" kantor Sheriff Lee County. Menurut laporan penangkapan, kalimat itu ditulis pada 26 September; sehari kemudian, pengguna yang sama menyebut dalam percakapan bahwa ia baru mendapat senjata baru.
Tim peninjau Anthropic melihat isi percakapan tersebut dan melaporkannya ke aparat penegak hukum. Pada 30 September, jaksa mengajukan dakwaan berdasarkan Florida Statute 836.10, yang mengatur ancaman tertulis atau elektronik untuk melakukan penembakan massal atau tindakan teror. Sebagai felony tingkat kedua, dakwaan ini membawa ancaman hukuman maksimal 15 tahun penjara dan denda 10.000 dolar AS. Polisi membawanya dari rumahnya tanpa perlawanan. Sidang dakwaannya dijadwalkan pada 2 November.
Sheriff Lee County, Carmine Marceno, mengatakan kepada media bahwa perempuan itu memberi tahu polisi dirinya biasa menggunakan Claude seperti buku harian.
Dari Penyaringan Kata Kunci ke Pelaporan Manusia
Berdasarkan proses yang digambarkan, percakapan Claude pertama-tama melewati penyaringan otomatis yang mendeteksi bahasa mengancam dan frasa kunci, lalu diteruskan ke peninjauan manusia sesuai tingkat keparahannya; hanya setelah tim manusia memeriksa isinya, Anthropic memutuskan apakah akan menghubungi aparat penegak hukum atau tidak. Kasus ini melewati seluruh rangkaian proses tersebut.
Yang mendasari langkah ini adalah kebijakan privasi Anthropic. Versi yang berlaku sejak 10 September menyatakan bahwa perusahaan, dengan alasan yang beralasan baik (good faith), dapat mengungkapkan data pribadi kepada aparat penegak hukum bila dianggap perlu untuk:
"prevent serious harm to any person or to property"
yaitu mencegah kerugian serius terhadap orang atau properti. Kebijakan permintaan pemerintahnya memiliki ketentuan terpisah: informasi pengguna umumnya hanya diserahkan bila ada proses hukum yang sah, dengan pengecualian untuk situasi darurat yang bisa menimbulkan "imminent physical harm or death" (bahaya fisik atau kematian yang mengancam seketika). Dalam kasus ini tidak ada surat panggilan pengadilan sebelumnya — platform melaporkannya sendiri, menggunakan pengecualian darurat tersebut.
Kasus Ketiga dalam Dua Bulan
Jika disejajarkan, kasus-kasus sejak Agustus tidak semuanya berakhir sama:
- Agustus, San Antonio, Texas: Seorang pengguna berusia 22 tahun menanyai Claude tentang penembakan di sekolah dasar. FBI memberi tahu polisi setempat, dan orang itu ditangkap dengan tuduhan ancaman teroris.
- Agustus, San Francisco: Seorang pengguna mengancam CEO Anthropic, Dario Amodei, dalam sebuah percakapan dan menyebut akan membeli senapan AR-15. Polisi diberi tahu, tetapi akhirnya tidak ada dakwaan yang diajukan.
- September, Lee County, Florida: Kasus inilah — dakwaan sudah diajukan dan sidang dakwaan masih menunggu.
OpenAI juga punya precedent serupa. Maret lalu, juga di Florida, seorang pengguna ChatGPT membahas rencana membunuh mantan pacarnya dalam percakapan, dan OpenAI melaporkannya ke FBI; orang itu mengakui bersalah pada Agustus dan dijatuhi hukuman delapan tahun masa percobaan. Pelajaran dari arah sebaliknya datang dari penembakan Tumbler Ridge di Kanada: OpenAI sebelumnya pernah memblokir akun yang terlibat tetapi tidak melaporkannya ke aparat penegak hukum, dan penembakan itu menewaskan delapan orang. Sam Altman menulis permintaan maaf soal ini pada April.
Platform-platform ini tertekan dari dua sisi: kalau tidak melapor, mereka akan ditanya kenapa diam setelah insiden terjadi; kalau melapor, pengguna jadi mempertanyakan seberapa pribadi sebenarnya "percakapan pribadi" mereka.
Bagian yang Masih Belum Diketahui Publik
Kata-kata apa saja yang diincar oleh penyaringan otomatis, berapa banyak percakapan yang masuk peninjauan manusia setiap bulan, dan berapa di antaranya yang akhirnya diteruskan ke polisi — Anthropic belum pernah mengungkap angka-angka ini. Perempuan itu mengaku hanya menulis buku harian; jaksa masih harus membuktikan bahwa ia bermaksud melaksanakan ancaman itu, dan itu akan ditentukan di pengadilan. Untuk saat ini, fakta kasus ini bersandar pada catatan pengadilan dan keterangan polisi.
Bagi pengguna biasa, yang sudah jelas sekarang adalah: apa yang ditulis di Claude tidak hanya berhenti di antara pengguna dan model. Pengaturan untuk mematikan "gunakan percakapan untuk meningkatkan model" hanya mengatur data pelatihan — itu mekanisme yang berbeda dari peninjauan keamanan.
Sumber: Tom's Hardware, The Next Web, CocoLoop, TechRepublic; klausul pengungkapan dalam kebijakan privasi dan kebijakan permintaan pemerintah Anthropic telah diverifikasi, pernyataan Kantor Sheriff Lee County telah diverifikasi terhadap ketentuan dakwaan dan batas maksimal hukuman.