Administrasi Ruang Siber China baru-baru ini merilis sebuah draf yang secara khusus mengatur layanan AI yang mengobrol dengan Anda, menemani Anda, dan bahkan menunjukkan "empati" kepada Anda. Nama resminya adalah "Tindakan Pengelolaan Sementara untuk Layanan Kecerdasan Buatan Interaktif Manusia (Draf untuk Konsultasi Publik)," diterbitkan pada 3 April 2026, untuk konsultasi publik.
Apa itu "AI interaktif manusia"?
Cakupan regulasi ini lebih luas dari yang Anda bayangkan — layanan apa pun yang "meniru ciri kepribadian manusia, cara berpikir, dan gaya komunikasi" serta melakukan interaksi emosional dengan pengguna melalui teks, gambar, suara, video, atau cara lainnya termasuk di dalamnya.
Dengan kata lain: pendamping obrolan AI, kekasih virtual, bot konseling emosional, layanan pelanggan AI — jika Anda merasa "sepertinya ia benar-benar memahami saya," kemungkinan besar semuanya berada dalam lingkup regulasi.
Aturan spesifik
Istirahat paksa setiap dua jam
Jika pengguna menggunakan layanan secara terus-menerus selama dua jam, sistem harus menampilkan pengingat untuk beristirahat. Logika ini sejalan dengan sistem pencegahan kecanduan game. Mengingat bahwa beberapa orang benar-benar menggunakan pendamping AI sebagai tempat pembuangan emosi harian, aturan ini tidak mengejutkan.
Larangan menyamar sebagai kerabat Anda
Draf secara eksplisit melarang layanan AI "meniru kerabat dekat pengguna." Ini adalah pemotongan yang tepat — sudah ada produk di pasar yang memungkinkan pengguna mengunggah audio dan membuat AI meniru suara anggota keluarga yang telah meninggal, atau berperan sebagai pasangan. Praktik semacam itu akan langsung diblokir di pasar China.
Larangan "jebakan emosional"
Peraturan menggunakan istilah "jebakan emosional" — melarang layanan memanipulasi emosi untuk memengaruhi perilaku pengguna atau mendorong konsumsi. Ini menargetkan model bisnis "sengaja membuat pengguna bergantung, lalu menjual konten berbayar."
Harus memberi tahu pengguna bahwa mereka berbicara dengan AI
Pengguna tidak boleh disesatkan untuk berpikir bahwa mereka sedang mengobrol dengan orang sungguhan. Ini konsisten dengan praktik sebagian besar perusahaan AI saat ini, tetapi sekarang menjadi persyaratan regulasi yang ketat.
Harus campur tangan saat emosi tidak normal
Draf mewajibkan penyedia layanan untuk membangun sistem identifikasi kondisi psikologis pengguna. Ketika pengguna menunjukkan emosi ekstrem atau tanda-tanda ketergantungan, layanan harus secara proaktif melakukan intervensi. Jika ada risiko melukai diri sendiri atau bunuh diri, sistem harus beralih ke petugas layanan pelanggan manusia.
Perlindungan tambahan untuk anak di bawah umur dan lansia
Mode anak di bawah umur bersifat wajib: memerlukan persetujuan orang tua, memiliki penyaringan konten khusus, dan mekanisme kontak darurat. Untuk perlindungan lansia, tidak boleh ada hambatan yang mencegah mereka menghubungi petugas layanan manusia yang sebenarnya.
Ambang batas tinjauan regulasi
Layanan dengan lebih dari 1 juta pengguna terdaftar atau lebih dari 100.000 pengguna aktif bulanan harus menyerahkan laporan penilaian keamanan kepada administrasi ruang siber tingkat provinsi. Ini berarti begitu suatu produk mencapai skala, produk tersebut harus masuk dalam pengawasan regulasi.
Bagaimana melihat draf ini
Draf masih dalam tahap konsultasi publik, dan versi final mungkin akan disesuaikan. Namun arahnya sudah jelas:
Regulator China memiliki pemahaman yang jelas tentang risiko manipulasi emosional dari produk pendamping AI, dan mereka tidak berniat menunggu sampai masalah meledak sebelum bertindak.
Aturan istirahat paksa dua jam ini secara langsung dianalogikan dengan pencegahan kecanduan game — menunjukkan bahwa otoritas menempatkan potensi kecanduan pendamping AI pada tingkat risiko yang sama dengan game online.
Larangan meniru kerabat dekat mengungkapkan logika yang lebih dalam: AI tidak boleh menempati posisi hubungan antarmanusia yang nyata. Ini bukan masalah teknis, melainkan penilaian nilai.
Pasti akan ada kontroversi. Analisis ChinaLawTranslate menunjukkan bahwa persyaratan untuk "tiba-tiba mengalihkan percakapan krisis ke petugas layanan pelanggan manusia" itu sendiri dapat menjadi bumerang — seorang pengguna yang sedang hancur, tiba-tiba dialihkan ke operator asing, belum tentu merupakan pengalaman yang baik. Detail algoritma profil pengguna dan identifikasi risiko psikologis juga sama sekali tidak disebutkan, sehingga implementasi aktualnya cukup sulit.
Bagaimanapun, ini adalah salah satu kasus paling awal dari undang-undang khusus tentang pendamping AI dan AI emosional secara global. Negara-negara lain masih dalam tahap diskusi tentang masalah ini; China sudah menyusun draf.
Sumber: CocoLoop, China Issues Draft Rules on Interactive AI Services (Mayer Brown); The Friends We've Made: An Initial Breakdown of Draft Rules for Human-like AI (ChinaLawTranslate); China drafts new rules for AI 'humans' and children's addictive tech (CGTN)