Lab AI Tiongkok Kompak Pangkas Kemampuan Serangan Siber

Moonshot AI, Tencent, dan Alibaba, tiga pengembang model terkemuka di Tiongkok, sama-sama melakukan hal yang sama pada model baru mereka dalam sebulan terakhir: menekan kemampuan siber ofensif, sambil mempertahankan atau bahkan memperkuat kemampuan defensif. Bloomberg pekan ini merangkai rilis-rilis tersebut dan menilainya berkaitan dengan draf aturan kontrol ekspor AI yang diumumkan Kementerian Perdagangan pada Oktober. Ketiga perusahaan tidak ada yang secara terbuka mengaitkan pendekatan mereka dengan draf itu.

Illustration: hooks leave a toolbox while a shield lock and repair tools stay, as Chinese AI models curb offense

Apa yang dilakukan masing-masing

Moonshot AI bergerak paling awal. Saat merilis Kimi K3.1 Pro pada akhir Oktober, perusahaan menyatakan telah mencabut data terkait keamanan siber dari korpus pelatihan dan lingkungan pembelajaran penguatan, sementara kemampuan pemrograman umum tetap dipertahankan. Pada tolok ukur serang-bertahan internal perusahaan, yaitu menemukan dan mengeksploitasi celah perangkat lunak di lingkungan terkontrol, K3.1 Pro meraih 81,0%. Versi sejenis tanpa pemangkasan risiko meraih 90,5%, dan angka 81,0% itu masih sedikit lebih tinggi daripada generasi sebelumnya. Angka-angka ini belum diverifikasi secara independen.

“We aim not to release open weights that would extend the absolute frontier of cyber capability.” (Moonshot AI: Kami tidak berniat merilis bobot terbuka yang akan memperluas batas terdepan mutlak kemampuan siber.)

Tencent merilis Hunyuan Hy4 pada 4 November. Perusahaan menyebut pelatihan keamanan sibernya hanya dipakai untuk pertahanan, misalnya menemukan cacat perangkat lunak dan membantu memperbaikinya; materi tentang membuat alat peretasan, menembus sistem, dan menyelidiki kelemahan sistem dikeluarkan. Setelah diuji oleh pakar keamanan internal, Tencent mengatakan tidak melihat risiko yang lebih tinggi pada Hy4 dalam membantu orang menerobos perangkat lunak atau melewati perlindungan keamanan, dan tidak menemukan bahwa model itu membuat eksperimen biologi berbahaya menjadi lebih mudah. Tencent berencana merilis bobotnya kemudian, disertai laporan pengujian keamanan.

Alibaba merilis Qwen4-Max pada 16 November. Perusahaan menyatakan pemeriksaan keamanan ditambahkan selama pelatihan untuk mengurangi kerentanan seperti injeksi kode, cacat keamanan memori, dan kegagalan kontrol akses, serta memperkuat perlindungan terhadap penyalahgunaan untuk kejahatan siber dan zat berbahaya. Pengujian internal, katanya, tidak menemukan kemampuan berisiko tinggi yang jelas. Laporan Bloomberg juga menyebut bahwa model andalan generasi ini dirilis tanpa bobot terbuka, sehingga pengguna tidak dapat mengunduh versi lengkapnya untuk dimodifikasi sendiri; Alibaba tidak memberikan pernyataan terpisah soal ini.

Garis yang ditarik draf aturan

Draf yang diumumkan bersama oleh Kementerian Perdagangan dan Kementerian Sains dan Teknologi pada Oktober itu berencana memasukkan 23 teknologi AI ke dalam daftar kontrol ekspor, mencakup model besar, agen, desain chip, dan klaster komputasi. Untuk model besar, yang dikontrol adalah komponen inti seperti bobot dan kode sumber, dengan ambang minimal 2 triliun parameter, atau masuk 10 besar dunia dalam pengujian kinerja, keamanan, dan sejenisnya. Risiko yang disebut dalam draf mencakup pembuatan dan mutasi malware berbasis AI serta alat penemuan kerentanan berbantuan AI, yang bisa dipakai menyerang infrastruktur kritis, industri pertahanan, dan sistem inti pemerintah.

Beberapa pengecualian juga ditulis dengan jelas. Kode sumber terbuka dan riset yang sudah dipublikasikan tidak termasuk dalam cakupan kontrol. Layanan bagi pengguna luar negeri lewat aplikasi, situs web, dan API tetap diizinkan. Menjalankan model yang dikontrol di server luar negeri dihitung sebagai ekspor, tetapi perusahaan yang menjalankannya di server cloud luar negeri milik sendiri otomatis mendapat izin. Masa konsultasi publik berakhir pada 15 November; jadwal penetapan versi final belum diumumkan.

Jika dibandingkan dengan ambang itu, Kimi K3.1 Pro mengklaim berada di kelas 3 triliun parameter, dan tulang punggung Qwen4-Max berukuran 2,4 triliun parameter. Keduanya berada di atas garis 2 triliun.

Dampak bagi pengembang dan tim keamanan

Jika versi final tidak jauh berbeda dari draf, dua kelompok akan merasakan dampak paling langsung.

Kelompok pertama adalah tim yang membangun di atas model bobot terbuka. Untuk model di atas ambang, apakah bobot boleh terus dirilis ke pengguna luar negeri bergantung pada izin, sedangkan apakah bobot masih bisa diunduh bebas di dalam Tiongkok tidak diatur langsung dalam draf; hal itu harus menunggu versi final dan penjelasan lanjutan. Moonshot AI sudah memilih memangkas kemampuan lebih dulu lalu merilis bobot, dan Tencent juga menyebut bobotnya akan dirilis belakangan. Apakah kedua jalur ini akan menjadi praktik standar industri akan terlihat dari rilis berikutnya.

Kelompok kedua adalah praktisi keamanan yang melakukan uji penetrasi dan latihan red team. Selama ini model terbuka dipakai untuk membantu menulis kode eksploitasi dan menjalankan verifikasi kerentanan; ke depan, model baru buatan Tiongkok akan lebih konservatif dalam hal ini. Untuk tugas defensif seperti meninjau kode, menemukan cacat, dan menulis patch, ketiganya menyatakan kemampuan dipertahankan atau bahkan diperkuat, tetapi efek nyatanya masih harus menunggu evaluasi pihak ketiga.

Ada satu pembanding. Di Amerika Serikat, pendekatan OpenAI adalah membuka model keamanan siber yang lebih mumpuni hanya bagi pihak defensif yang telah disaring, melalui program berbasis penyaringan. Jalur yang saat ini dipaparkan secara terbuka oleh perusahaan Tiongkok adalah memangkas kemampuan ofensif sejak tahap pelatihan. Efektivitas kedua pendekatan itu untuk saat ini hanya bersandar pada keterangan masing-masing perusahaan.

Sumber: Bloomberg, laporan Reuters tentang Tencent Hy4 dan Kimi K3.1 Pro, CocoLoop, The Next Web. Skor tolok ukur serang-bertahan mengikuti hasil uji sendiri Moonshot AI; jumlah butir dalam daftar kontrol dan ambang parameter mengikuti draf konsultasi Kementerian Perdagangan dan Kementerian Sains dan Teknologi.