Stanford: Lebih dari Sepertiga Gugatan di California Berjejak AI

AI policy illustration: scales on a circuit base with a red weight

RegLab Stanford merilis studi pada 19 November yang menghitung jejak penulisan berbantuan AI dalam gugatan di empat pengadilan tingkat county di Amerika Serikat. Pada gugatan nonpenagihan utang tahun 2026, proporsi yang membawa sinyal AI adalah 38% di Santa Clara County, California, dan 36% di San Francisco County. Di Oklahoma, Tulsa County dan Oklahoma County masing-masing 17% dan 16%.

Di Santa Clara County, indikator ini pada 2022 masih mendekati nol. Kenaikan tercepat datang dari pihak yang menggugat sendiri tanpa pengacara, dari 19% pada 2024 menjadi 72% pada 2026, sedangkan dokumen yang diajukan pengacara naik dari 5% menjadi 34%. Menurut jenis perkara, sengketa ketenagakerjaan dan bisnis di California menunjukkan proporsi tertinggi. Gugatan penagihan utang, yang di sebagian pengadilan mencakup hampir separuh perkara, nyaris tidak menunjukkan tanda AI. Sinyal AI paling sering muncul pada bagian uraian fakta dan dasar gugatan.

Kasus halusinasi sebagai kunci jawaban

Kesulitannya ada pada pembuktian. Tim peneliti berpijak pada basis data yang dikelola Damien Charlotin, yang sejak April 2025 mencatat kasus ketika hakim menuduh atau menegur pihak berperkara karena kutipan palsu; di Amerika Serikat sudah tercatat lebih dari 1.500 kasus. Kesalahan dalam dokumen-dokumen itu cukup jelas sehingga pemakaian AI bisa dipastikan, jadi cocok dipakai sebagai nilai acuan.

Para peneliti menggabungkannya dengan sampel pembanding yang dipilih secara cermat menjadi tolok ukur baru bernama PhantomDocket, lalu mengusulkan metode kalibrasi bernama ScoreMix untuk memperkirakan berapa banyak gugatan yang lebih mirip dokumen berhalusinasi tersebut daripada dokumen sebelum ChatGPT muncul. Detektor siap pakai, Pangram dan EditLens, tidak bekerja baik bila dipakai apa adanya: tidak mampu mendeteksi, atau membutuhkan penyetelan parameter yang besar. Pangram Labs memberikan akses untuk penelitian ini, dan tim peneliti menyatakan perusahaan itu tidak terlibat dalam rancangan maupun analisis studi.

"AI detection is most reliable for estimating population prevalence, not pinpointing which specific filings used AI."

(Deteksi AI paling andal untuk memperkirakan proporsi secara keseluruhan, bukan untuk memastikan dokumen tertentu memakai AI.)

Tulisan hukum memakai kosakata sempit dan banyak kalimat baku, sehingga sinyal yang tersedia bagi detektor memang sedikit, dan data pelatihan detektor komersial belum tentu memuat teks hukum. Bahkan detektor terbaik pun tingkat positif palsu dan negatif palsunya tidak rendah. Pengumuman studi tidak memublikasikan ukuran sampel PhantomDocket maupun tabel akurasi detektor; keduanya harus dilihat di makalah lengkap. Rekomendasi kebijakan tim adalah agar pengadilan menerapkan sistem pengungkapan penggunaan AI, supaya statistik dan penegakan tanggung jawab di kemudian hari punya dasar.

Jika dilihat dari pengadilan Tiongkok

Dokumen padanannya di Tiongkok adalah Pendapat tentang Pengaturan dan Penguatan Penerapan Kecerdasan Buatan di Bidang Peradilan yang diterbitkan Mahkamah Agung Rakyat pada Desember 2022. Aturan itu terutama mengatur cara pengadilan sendiri memakai AI untuk membantu menangani perkara, dan menegaskan bahwa AI tidak boleh menggantikan hakim dalam memutus. Apakah pihak berperkara dan pengacara wajib menyatakan penggunaan AI generatif dalam surat gugatan atau pembelaan, tidak diatur secara khusus dalam teks yang tersedia untuk umum.

Di Amerika Serikat, sejumlah hakim federal sudah meminta pengacara menyatakan secara tertulis apakah mereka memakai AI generatif dan memeriksa sendiri setiap kutipan. Peringatan dari studi Stanford ini adalah bahwa di tempat tanpa kewajiban pengungkapan, pihak luar hanya bisa memperkirakan proporsi keseluruhan dengan detektor, dengan margin kesalahan yang tidak kecil. Bagi semakin banyak pihak berperkara dan firma hukum di Tiongkok yang menyusun gugatan dengan model bahasa besar, risiko kutipan palsu sama saja; konsekuensi setelah ketahuan hakim untuk saat ini bergantung pada penanganan perkara di masing-masing pengadilan.

Sumber: Stanford HAI, makalah Stanford RegLab, CocoLoop, Mahkamah Agung Rakyat Tiongkok; diverifikasi: proporsi sinyal AI di empat pengadilan county, perubahan antara gugatan pribadi dan dokumen pengacara, ukuran basis data kasus halusinasi, serta rentang hasil deteksi.