Gubernur California Gavin Newsom menandatangani perintah eksekutif pada 18 September yang mewajibkan pembentukan panel ahli untuk menyusun panduan, dalam dua bulan, tentang bagaimana negara bagian seharusnya memperkuat undang-undang keselamatan kecerdasan buatan.
Perintah eksekutif ini mencantumkan tiga arah evaluasi: mewajibkan perusahaan AI garis depan menjalani audit keselamatan independen dari pihak ketiga secara berkala; mewajibkan pelaporan "insiden lepas kendali" ketika agen AI menunjukkan perilaku tidak normal; serta melengkapi model paling mutakhir dengan "kill switch", yaitu mekanisme penghentian darurat. Ketiganya untuk saat ini masih berupa opsi yang dievaluasi, bukan kewajiban yang sudah berlaku.
Apa sebenarnya yang dilakukan perintah eksekutif ini
Batas kewenangan dokumen ini perlu diperjelas. Ia tidak menciptakan persyaratan kepatuhan baru, melainkan memulai sebuah proses: menunjuk siapa yang mengumpulkan panel, menetapkan tenggat waktu, dan membingkai topik yang akan dievaluasi. Aturan yang mengikat harus datang dari undang-undang yang nantinya didorong oleh panel tersebut, atau dari aturan administratif di bawah kerangka hukum yang sudah ada. Tenggat dua bulan berarti panduan itu semestinya muncul sebelum pertengahan November.
Dalam pidato videonya, Newsom mengatakan, "California akan melakukan semampunya, tetapi seluruh negeri perlu bergerak, Washington DC perlu menjalankan tugasnya." Ia menempatkan perintah eksekutif ini sebagai fondasi untuk membangun kerangka keselamatan. Kantornya berbicara lebih terus terang, menyebut pemerintah federal "gagal total" dalam membangun pengawasan dan akuntabilitas AI yang berarti.
"We will not sit idle—we will accelerate substantive, responsible AI regulation before it is too late."
"Kami tidak akan diam saja, kami akan mempercepat regulasi AI yang substantif dan bertanggung jawab sebelum semuanya terlambat."
Beberapa titik penting jalur California tahun ini
Jika dilihat lebih luas, ini bukan langkah yang berdiri sendiri. Awal September, California sudah menandatangani undang-undang yang membentuk kerangka bagi lembaga audit AI pihak ketiga; persyaratan audit independen yang dievaluasi oleh perintah eksekutif ini melanjutkan garis tersebut. Lebih jauh lagi, perdebatan legislatif California soal pengungkapan keselamatan model garis depan sudah berlangsung dua tahun, dengan sejumlah rancangan undang-undang yang diveto dan sebagian lain baru disahkan setelah cakupannya dipersempit.
Urutannya jelas: bangun dulu kerangka kualifikasi lembaga audit, baru kemudian evaluasi apakah audit dijadikan kewajiban; wajibkan dulu pengungkapan, baru bahas pelaporan dan mekanisme penghentian. Setiap langkah hanya bergeser sedikit dari langkah sebelumnya, tidak ada yang langsung meloncat ke bentuk akhir. Cara maju bertahap ini memberi waktu bagi perusahaan untuk menyesuaikan diri, sekaligus memberi celah bagi pihak yang menentang untuk menghambatnya pasal demi pasal.
Ada juga batas waktu yang tidak bisa diabaikan. Masa jabatan Newsom sebagai gubernur berakhir 4 Januari tahun depan. Tenggat dua bulan ini jatuh dalam masa jabatannya, tetapi dorongan legislatif setelah panduan itu terbit kemungkinan besar akan diwariskan ke penggantinya. Apakah perintah eksekutif ini akhirnya menjadi undang-undang, tidak sepenuhnya ditentukan oleh orang yang menandatanganinya.
Kontras tajam dengan jalur federal
Latar belakangnya adalah kekosongan di level federal. Trump menolak seruan untuk memperketat regulasi dan menyebut kekhawatiran soal keselamatan AI sebagai "kebohongan"; Kongres pun kecil kemungkinannya mendorong undang-undang AI nasional sebelum pemilu sela 2026. California memposisikan dirinya di kutub yang berlawanan, dan kantor Newsom pada hari yang sama secara terbuka mengkritik kelambanan Gedung Putih dan Kongres soal isu ini.
California punya modal untuk melakukan ini. Sebagian besar perusahaan AI garis depan bermarkas di negara bagian ini, sehingga hukum negara bagian mengikat mereka secara langsung, bukan yurisdiksi ekstrateritorial yang bisa dihindari dengan memindahkan server. Dalam beberapa tahun terakhir, pendekatan California soal privasi data dan standar emisi juga berulang kali berujung menjadi standar nasional secara de facto.
Namun yang hendak dibentuk kali ini lebih berat dibanding aturan privasi. Audit pihak ketiga secara berkala berarti pihak luar masuk ke dalam proses evaluasi model; pelaporan insiden lepas kendali berarti perusahaan harus secara aktif menyerahkan sendiri anomali pada sistemnya; kill switch menyentuh arsitektur penerapan itu sendiri. Jika salah satu dari ketiganya benar-benar diberlakukan, hal itu akan memicu tarik-menarik di level laboratorium.
Tiga hal yang perlu diperhatikan dalam dua bulan ke depan
Dalam jendela waktu dua bulan ini, ada tiga hal yang bisa diamati: siapa yang akan mengisi panel ahli, seberapa rinci definisi "insiden lepas kendali" akan dirumuskan, serta apakah kill switch akan muncul sebagai persyaratan wajib atau sekadar praktik yang disarankan.
Untuk saat ini ketiganya belum punya jawaban. Perintah eksekutif ini baru memberikan daftar topik dan jadwal, bukan kesimpulan. Apakah panduan itu benar-benar terbit sebelum pertengahan November, dan seperti apa isinya, menjadi titik verifikasi berikutnya dari kisah ini.
Sumber: pengumuman Kantor Gubernur California, Sing Tao Daily, CocoLoop, Sina Finance; tiga arah evaluasi dalam perintah eksekutif, tenggat dua bulan, dan pernyataan Newsom telah dicocokkan dengan keterangan resmi Kantor Gubernur.