Seorang penggugat yang identitasnya disamarkan sebagai Jane Doe mengajukan gugatan class action terhadap xAI pada 27 Agustus. Gugatan menuduh perusahaan tersebut gagal menyaring gambar ilegal saat melatih model seri Grok, termasuk materi pelecehan seksual anak yang asli maupun konten sejenis hasil buatan AI. Seluruh tuduhan ini belum diputuskan oleh pengadilan, dan menurut Ars Technica, pihak X tidak merespons permintaan komentar.
Rangkaian kejadian yang dipaparkan pihak penggugat kurang lebih sebagai berikut: ia mengalami pelecehan pada awal 2000-an saat masih usia prasekolah, dan gambar terkait telah beredar lebih dari dua dekade, hingga akhirnya masuk ke basis data hash milik National Center for Missing & Exploited Children (NCMEC) di Amerika Serikat. Canadian Centre for Child Protection kemudian mengidentifikasi materi hasil AI yang menggambarkan dirinya di platform xAI. Berdasarkan itu, gugatan menuduh bahwa gambar yang sudah ditandai dalam basis data hash tersebut masuk ke dalam data pelatihan xAI.
Titik sengketa ada pada ketentuan, bukan satu kumpulan data
Bagian paling telak dari gugatan ini bukan soal melacak asal satu set data tertentu, melainkan langsung menyasar ketentuan layanan itu sendiri. Salah satu kutipan dalam gugatan berbunyi:
"Because Grok's terms treat public X posts and Grok's own outputs as training data by default, publicly posting an image does not just expose it to viewers..."
(Karena ketentuan Grok secara default memperlakukan unggahan publik di X dan output Grok sendiri sebagai data pelatihan, mengunggah sebuah gambar secara publik dampaknya tidak berhenti pada sekadar dilihat orang lain...)
Mengikuti logika ini, gugatan lebih lanjut menuduh bahwa Grok menyimpan output pelanggaran yang dihasilkannya sendiri, lalu menggunakannya untuk pelatihan berikutnya. Yang digambarkan pihak penggugat adalah sebuah lingkaran tertutup: konten yang melanggar dihasilkan, disimpan, lalu diumpankan kembali ke model. Gugatan ini juga menyoroti masalah kebijakan default lainnya — menuduh xAI tidak secara default mengecualikan materi pelecehan seksual anak, gambar intim tanpa persetujuan, dan konten NSFW.
Ada tiga tuntutan: ganti rugi bagi seluruh korban; pemusnahan materi hasil Grok yang bersangkutan; dan larangan bagi Grok untuk terus menghasilkan konten seksual. Tuntutan kedua dan ketiga bersifat injunctive (larangan) — jika dikabulkan, dampaknya akan terasa pada bentuk produknya, bukan sekadar pada catatan keuangan.
Mengapa basis data hash tidak berhasil membendungnya
Basis data hash milik NCMEC adalah salah satu mekanisme penyaringan paling dasar di industri ini, dan prinsipnya tidak rumit: gambar ilegal yang sudah diketahui diubah menjadi nilai hash dan disimpan dalam basis data, lalu platform mencocokkan konten yang diunggah dengan basis data tersebut — jika cocok, langsung diblokir. Mekanisme ini sudah berjalan lebih dari sepuluh tahun di berbagai platform hosting gambar dan media sosial, terbukti andal dan berbiaya rendah.
Alasan mekanisme ini gagal di tahap data pelatihan juga tidak sulit dipahami. Pencocokan hash hanya menangkap kasus "gambar ini identik dengan salah satu gambar di basis data" — begitu sebuah gambar dipotong, dikompresi, dikonversi format, atau bahkan dihasilkan ulang oleh model menjadi gambar baru dengan komposisi serupa, nilai hash-nya tidak lagi cocok. Materi hasil AI yang dituduhkan dalam gugatan ini justru berada tepat di titik buta tersebut — bukan salinan dari gambar yang sudah ada di basis data, sehingga secara logika pencocokan, dianggap sebagai gambar yang sepenuhnya baru.
Hal ini mengembalikan tanggung jawab ke dua tahap: pembersihan data dan penyaringan di sisi output. Skala data pelatihan hasil scraping membuat tinjauan manual mustahil mencakup semuanya, sehingga harus mengandalkan classifier — dan jika sisi output secara default mengumpulkan kembali hasil generatif ke dalam data pelatihan, tingkat kegagalan classifier tersebut akan membesar seiring waktu.
Tekanan nyata bagi seluruh industri
Jika ditempatkan dalam konteks regulasi tahun ini, legalitas data pelatihan sedang meluas dari isu hak cipta menjadi isu kepatuhan konten. Gugatan-gugatan terkait data pelatihan sebelumnya sebagian besar berpusat pada klaim pelanggaran hak cipta yang diajukan penulis dan perusahaan media, dengan ganti rugi sebagai tuntutan utama. Kasus jenis ini memiliki struktur tuntutan yang sama sekali berbeda — yang dicari adalah pemusnahan dan larangan.
Tekanan nyata bagi para pesaing juga muncul di titik ini. Ketentuan bahwa "konten yang diunggah publik oleh pengguna secara default dapat digunakan untuk pelatihan" hampir menjadi praktik standar di industri ini — bahasa serupa bisa ditemukan di ketentuan pengguna hampir semua platform. Jika pengadilan dalam kasus semacam ini memutuskan bahwa ketentuan default saja tidak cukup sebagai pembelaan kepatuhan, maka yang perlu menulis ulang kebijakannya bukan hanya xAI — seluruh pengaturan default "publik berarti bisa dipakai melatih" di industri ini bisa kembali dipertanyakan.
Gugatan ini baru saja diajukan, dan proses persidangan substantif masih jauh. Apakah gugatan class action ini bisa mendapatkan sertifikasi sebagai gugatan kelompok pun masih menjadi satu hambatan tersendiri. Yang tampak jelas adalah bahwa kedua ujung alur data pelatihan — apa yang dimasukkan, dan apa yang ditarik kembali — sedang bergeser dari persoalan rekayasa menjadi persoalan hukum.
Sumber: Ars Technica, CocoLoop, serta materi publik dari Canadian Centre for Child Protection dan NCMEC; diverifikasi untuk sifat gugatan, isi tiga tuntutan, dan status respons pihak tergugat.