Kantor Administrasi Siber China (CAC) merilis laporan kemajuan tahap kedua kampanye khusus “Qinglang” untuk menertibkan penyalahgunaan aplikasi AI. Pada tahap ini, regulator menghapus lebih dari 5,61 juta unggahan konten yang melanggar hukum atau aturan, menindak lebih dari 49.000 akun, dan mengambil tindakan terhadap lebih dari 2.400 situs web serta aplikasi yang melanggar. Berbagai platform bersama-sama menerbitkan 46 pengumuman tata kelola selama periode ini. Otoritas siber di Beijing, Shanghai, Zhejiang, Guangdong, dan daerah lain turun langsung melakukan penegakan aturan.
Persoalan yang disasar pada tahap kedua sama sekali berbeda dari tahap pertama: penggunaan AI untuk membuat dan menyebarkan informasi palsu, menyebarkan konten kekerasan atau tidak senonoh, menyamar atau memalsukan identitas orang lain, melanggar hak anak di bawah umur, menjalankan operasi buzzer atau akun siluman berbayar, serta konten pelanggaran yang dihasilkan oleh produk AI itu sendiri.
Dari Menutup Produk ke Membersihkan Akun
Kampanye khusus ini digelar sejak akhir April tahun ini, berlangsung selama empat bulan dalam dua tahap, dengan fokus pada 14 kategori masalah utama. Ketika hasil kedua tahap dibandingkan, pergeseran fokusnya langsung terlihat jelas.
Dalam laporan tahap pertama, tindakan diambil terhadap lebih dari 14.000 produk AI yang melanggar, lebih dari 1.300 produk AI yang melanggar ditarik dari peredaran, dan 9 dataset sumber terbuka yang melanggar dihapus — semuanya menyasar sumber teknis: apakah model bahasa besar sudah terdaftar sesuai ketentuan, apakah kemampuan tinjauan keamanan dan penyaringan platform sudah memadai, apakah data pelatihan tercemar, dan apakah persyaratan penandaan konten sintetis hasil AI sudah diterapkan. Sasarannya adalah produk itu sendiri.
Pada tahap kedua, jumlah produk yang ditindak turun menjadi 2.400, sementara jumlah akun yang ditindak melonjak dari 26.000 menjadi hampir 49.000 — hampir dua kali lipat. Volume konten yang dihapus relatif stabil di kedua tahap (lebih dari 6 juta berbanding 5,61 juta unggahan), tetapi di balik volume konten yang sama, jumlah akun yang terungkap hampir dua kali lebih banyak. Perhitungan kasar menunjukkan, pada tahap pertama rata-rata setiap akun yang ditindak terkait dengan sekitar 230 unggahan pelanggaran; pada tahap kedua angka itu turun menjadi sekitar 115. Produksi per akun menurun, sementara jumlah akun yang terlibat meningkat. Ini adalah pola khas yang muncul setelah sebuah alat menjadi populer: ketika ambang batas untuk membuat konten dengan AI turun, biaya untuk memproduksi akun secara massal demi mengisi konten juga ikut turun, sehingga tingkat kedetailan penertiban mau tidak mau harus mengikuti ke bawah.
Pekerjaan Rumah yang Diserahkan Platform
Di sisi platform konten, Douyin, Kuaishou, Weibo, Tencent, Baidu, Bilibili, Xiaohongshu, Zhihu, Douban, dan Taobao memusatkan upaya pada kemampuan deteksi: menyempurnakan model pengenalan multimodal, memperluas basis data wajah, suara, dan sampel pelanggaran secara dinamis, serta meluncurkan sistem tata kelola wajah secara real-time. Wajah dan suara secara khusus disorot karena mengarah pada masalah paling pelik di tahap ini — peniruan dan pemalsuan identitas orang lain, yang biasa dikenal sebagai penukaran wajah (deepfake) dan peniruan suara.
Di sisi produk AI, Doubao, Yuanbao, Qwen, dan Ernie Bot disebutkan secara spesifik dan diminta memperketat tinjauan konten atas data pelatihan mentah, membatasi ketat keluaran konten yang melanggar, serta memperkuat penerapan persyaratan penandaan konten sintetis hasil AI. Regulator memasukkan sisi pembuatan konten dan sisi distribusi ke dalam penilaian secara bersamaan: model yang tidak menghasilkan konten melanggar adalah pintu pertama, kemampuan platform mendeteksinya adalah pintu kedua, dan keduanya harus meninggalkan catatan yang bisa dilacak.
Bagian paling hulu dari rantai distribusi pun tidak luput. Toko aplikasi milik beberapa produsen ponsel pintar utama diwajibkan menetapkan standar masuk pengembang dan persyaratan penayangan yang ketat, melakukan uji sampel dan pengujian ulang terhadap aplikasi yang sudah tayang, serta menahan aplikasi yang melanggar sejak tahap pendaftaran. Pendaftaran pengembang, penayangan aplikasi, pembuatan konten, distribusi konten, dan pengelolaan akun — kelima tahap ini semuanya memiliki standar penindakan tersendiri pada putaran kali ini.
Ke Mana Bobot Kepatuhan Bergeser
Bagi tim pengembang aplikasi AI di China, perbedaan kedua tahap ini pada praktiknya berarti pos biaya kepatuhan yang berubah.
Tahap pertama menguji gerbang masuk: pendaftaran model, asal-usul data pelatihan, dan penandaan konten adalah investasi satu kali yang, setelah selesai, bertahan untuk sementara waktu. Tahap kedua menguji gerbang operasional: setelah produk diluncurkan, siapa yang menggunakannya, apa yang dihasilkannya, dan apakah dimanfaatkan untuk memproduksi akun secara massal — semuanya menjadi tanggung jawab platform. Sebanyak 46 pengumuman tata kelola dan lebih dari 49.000 akun yang ditindak menunjukkan bahwa gerbang ini tidak bisa dilewati hanya dengan satu berkas, melainkan membutuhkan sistem tinjauan dan jalur penindakan yang terus berjalan.
Ketentuan penandaan konten khususnya patut diperhatikan. Pada tahap pertama, ini adalah butir kepatuhan sebatas ‘sudah dilakukan atau belum’; pada tahap kedua, ketentuan ini berubah menjadi titik awal rantai pertanggungjawaban: untuk informasi palsu yang dilaporkan, penandaan yang lengkap memungkinkan penelusuran kembali ke sumber pembuatannya, sedangkan penandaan yang hilang membuat platform harus menjelaskan sendiri tanggung jawab atas seluruh rantai tersebut. Investasi sesungguhnya akan condong ke sistem tinjauan dan kemampuan penelusuran sumber, bukan lagi sekadar berkas pendaftaran.
Sumber: pengumuman Kantor Administrasi Siber China, Xinhua, CocoLoop, China News Service; angka jumlah konten yang dihapus, akun yang ditindak, dan produk yang melanggar pada kedua tahap diperiksa item per item sesuai redaksi pengumuman resmi, sementara rata-rata per akun dihitung secara kasar dari angka publik.