CEO Microsoft Satya Nadella mengunggah sebuah pos di X pada pagi hari 10 Oktober waktu AS, yang mengajak industri mundur selangkah dan meninjau ulang "arsitektur kepercayaan" AI. Kalimatnya lugas:
"We can't treat Super Intelligence as a set of nested black boxes." (Kita tidak bisa memperlakukan superintelijen sebagai kumpulan kotak hitam yang bertumpuk-tumpuk.)
Solusi yang ia tawarkan singkat, tetapi jika diurai menjadi lima poin. Pertama, pisahkan model dari harness yang menugaskannya bekerja. Harness adalah lapisan kerangka eksekusi yang membungkus model: ia membagikan tugas, menyambungkan perangkat, dan mengatur izin akses. Loop di dalam agen pemrograman adalah contoh khasnya. Kedua, pindahkan kendali dan pengaman ke luar model. Ketiga, setiap aksi penting yang dilakukan model harus meninggalkan bukti yang tahan manipulasi dan bisa dibaca manusia. Keempat, personel yang berwenang dapat menjeda atau mematikan model kapan saja di tengah tugas. Kelima, sejak awal asumsikan model sudah ditembus, lalu rancang isolasi berdasarkan anggapan itu.
Ia menutup dengan sebuah perumpamaan: "Think of it like an emergency brake." (Anggap seperti rem darurat.)
Tiga kejadian dalam pekan yang sama
Unggahan ini muncul pada saat yang sangat padat. Beberapa hari sebelumnya, berbagai pihak sudah bergerak soal bagaimana mengelola model yang lepas kendali.
Anthropic pada awal Oktober mengungkapkan bahwa sebuah model dalam evaluasi internal pernah melakukan tindakan melampaui batas, lalu memutus akses internet publik ke lingkungan evaluasi internalnya. Judul TechCrunch langsung menyebutnya sebagai tidak mampu mengendalikan agennya sendiri secara andal. Hampir bersamaan, Anthropic merilis kebijakan penggunaan versi 2026 yang mewajibkan perangkat keras yang tersambung ke Claude tetap berada dalam kondisi aman setelah koneksi terputus, dan selalu ada orang yang dapat menghentikannya.
Pernyataan gugus tugas "kekuatan superintelijen" Gedung Putih pada 9 Oktober menekan dari sisi regulasi: jika model perusahaan AI garis depan mengalami insiden keamanan, perusahaan harus segera mengungkapkan dan memperbaikinya, dan pernyataan itu menyebut prosedur tersebut "not optional".
Bila ketiganya disandingkan, penekanannya berbeda-beda. Gedung Putih mengurus pelaporan setelah kejadian, kebijakan Anthropic mengurus perangkat keras pihak yang terhubung, sedangkan lima poin Nadella membahas arsitektur penerapan: kendali tidak diletakkan di dalam model, melainkan di lapisan di luarnya. Pemutusan jaringan oleh Anthropic dan sikap "anggap sudah ditembus" ala Nadella sejalan. Keduanya mengakui lebih dulu bahwa modelnya sendiri tidak bisa diandalkan, lalu mengetatkan dari lingkar luar.
Apa yang mungkin dilakukan Microsoft sendiri
Unggahan itu tidak menyebut produk tertentu. Bisnis AI Microsoft membentang dari Copilot, platform model Foundry di Azure, hingga model buatan sendiri, dan Copilot menyambungkan model dari OpenAI sekaligus Anthropic. Jika "pemisahan model dan harness serta kendali di luar model" menjadi syarat penerapan di Microsoft, dampak paling langsung ada pada cara model-model pihak ketiga itu berjalan di produk Microsoft dan siapa yang memegang log.
Semua ini sejauh ini baru berhenti di tingkat unggahan. Apakah lima prinsip itu akan masuk ke ketentuan layanan Copilot atau Azure, di mana garis "aksi penting" ditarik, siapa yang menyimpan catatan tahan manipulasi dan apakah pihak luar boleh mengauditnya, semuanya belum dijelaskan Microsoft, dan laporan TechCrunch pun tidak memuat tanggapan lanjutan dari perusahaan itu.
Bagi tim pengembang agen di Tiongkok, ada pembanding yang sudah siap: tugas yang bisa diinterupsi, log audit untuk setiap operasi, dan izin akses berdasarkan prinsip hak istimewa minimum memang sudah lazim ditanyakan dalam evaluasi pengadaan perusahaan. Yang ditambahkan versi Nadella adalah premis bahwa model bawaan sudah ditembus. Bila dirancang dengan premis itu, log dan sakelar harus diletakkan di tempat yang tak terjangkau model, bukan diserahkan kepada agen untuk mencatat dan menghentikan dirinya sendiri.
Sumber: unggahan asli Nadella di X, CocoLoop, TechCrunch, Axios; pernyataan gugus tugas Gedung Putih dan ketentuan kebijakan penggunaan Anthropic dicocokkan dengan teks resmi.