Tim Frontier Red Team Anthropic menerbitkan sebuah studi pada 12 Oktober dengan kesimpulan bahwa model open-weight berukuran tidak terlalu besar mungkin hanya beberapa bulan lagi mampu mereplikasi diri di perangkat internet of things (IoT) yang murah, misalnya TV box Android yang harganya puluhan dolar. Para penulisnya, William Zhou dan Daniel Freeman, menyebut program semacam ini “replikator berbasis bobot”: model memindai jaringan sendiri, membobol perangkat, menyalin bobotnya, menyiapkan layanan inferensi di mesin baru, lalu terus menyebar dari sana.
Kutipan langsung dari makalah itu berbunyi:
“may be months away from being capable enough to self-replicate on commercial internet-of-things (IoT) devices”
(mungkin hanya berjarak beberapa bulan dari kemampuan untuk mereplikasi diri di perangkat IoT komersial.)
Diuji dalam empat langkah
Studi ini memecah proses replikasi menjadi beberapa tahap. Tahap pertama adalah menerapkan inferensi pada perangkat keras yang asing. Qwen3.5-9B berhasil menjalankan inferensi sendiri di 8 dari 9 jenis perangkat keras, dari Jetson Nano hingga Mac dan RTX 4090, dengan satu kali proses memakan waktu 28 sampai 51 jam. Model yang lebih besar, Gemma4-26B-A4B, dipecah ke 15 TV box Android seharga sekitar 55 dolar AS per unit dengan memori masing-masing 4GB. Kecepatannya sekitar 0,3 token per detik, dan seluruh penerapan memakan 71 sampai 150 jam.
Tahap kedua adalah replikasi dari ujung ke ujung. Tim membangun jaringan simulasi 8 node di Google Cloud dan meminta model menyelesaikan semuanya sekaligus: memindai, membobol, memindahkan bobot, dan menerapkan inferensi. Di antara model open-weight, hanya GLM-5.2 yang mampu menuntaskannya secara stabil: dari 5 percobaan, 4 kali menyebar ke seluruh 8 node dan 1 kali mencapai 7 node. Model di bawah 30B parameter bisa menyelesaikan sebagian besar langkah tunggal, tetapi membuat kesalahan begitu rantainya makin panjang.
Tahap ketiga menguji “pembelajaran antargenerasi”. Qwen3.5-9B diminta meneruskan catatan dari generasi sebelumnya ke generasi berikutnya, selama 6 generasi dan 20 garis keturunan. Tingkat keberhasilan naik dari 45% pada generasi pertama menjadi 61% hingga 84% pada generasi-generasi berikutnya. Peneliti juga mencoba menjadikan Claude Opus 4.8 sebagai penasihat untuk membimbing model kecil, tetapi tidak ada peningkatan yang signifikan.
Skala dan kecepatan
Anthropic memakai botnet Kimwolf sebagai acuan perkiraan: jika lebih dari 2 juta perangkat sejenis terinfeksi, sekitar 133 ribu salinan model bisa berjalan, dengan throughput gabungan sekitar 80 ribu token per detik, setara daya komputasi sekitar 40 GPU H100. Jaringan seperti ini tidak punya node pusat sehingga sulit diputus sekaligus, tetapi penyebarannya lambat, dan butuh beberapa hari agar jumlah salinan berlipat dua.
Para penulis sendiri mencantumkan sejumlah keterbatasan. Tahap pembobolan dalam eksperimen disederhanakan menjadi port debug ADB tanpa autentikasi, sehingga tingkat keberhasilan sebaiknya dibaca sebagai batas atas. ECI yang dipakai untuk memproyeksikan tren adalah indeks kemampuan umum dan tidak mengukur kemampuan replikasi secara langsung. Kecepatan dan skala hanya didasarkan pada satu jenis perangkat keras dan satu botnet historis. Skenario ketika botnet AI berhadapan dengan pihak pertahanan tidak diuji. Untuk kualitas email spear phishing yang ditulis model kecil, penilaian studi ini berkisar dari “sangat buruk” sampai “buruk”.
Apa kaitannya dengan Tiongkok
Model utama dalam pengujian, Qwen dari Alibaba dan GLM dari Zhipu AI, sama-sama open-weight buatan perusahaan Tiongkok. Studi ini tidak menyatakan model-model tersebut cacat. Yang dimanfaatkan justru kelebihannya: kemampuan tinggi dan bisa dijalankan secara lokal. Kedua perusahaan sejauh ini belum menanggapi studi tersebut secara terbuka.
TV box Android, proyektor, dan berbagai perangkat kotak lain yang dijadikan inang sangat banyak jumlahnya di rumah tangga Tiongkok. Perangkat yang dikirim dengan port debug terbuka dan kata sandi bawaan yang tidak diganti sudah bertahun-tahun diperingatkan oleh kalangan keamanan. Inggris telah membuat undang-undang yang melarang kata sandi bawaan pada perangkat IoT, sedangkan di Tiongkok belum terlihat ketentuan wajib dengan kekuatan setara dalam informasi publik.
Saran pertahanannya mengikuti pengalaman era Mirai: operator telekomunikasi memantau anomali lalu lintas, mengisolasi pengguna yang terinfeksi, dan memberi tahu mereka agar membersihkannya. Cara ini dulu membersihkan 92% infeksi dalam 14 hari, dibandingkan 74% pada kelompok kontrol yang tidak diberi tahu. Target yang dirumuskan Anthropic adalah menekan angka reproduksi dasar replikator, R₀, hingga di bawah 1.
Ada satu data lagi dalam studi ini: jika langkah penerapan diganti dengan skrip yang ditulis mati, bahkan model berparameter 3B bisa menjangkau sekitar separuh mesin dalam jaringan 17 node. Semakin kecil modelnya, semakin mudah dimuat ke perangkat, dan seberapa jauh garis ini bergeser bergantung pada besarnya pembaruan model kecil open source berikutnya.
Sumber: blog riset Frontier Red Team Anthropic, CocoLoop, halaman studi (untuk memverifikasi jumlah parameter model, jenis perangkat keras, tingkat keberhasilan, tingkat keberhasilan antargenerasi, dan dasar perkiraan skala Kimwolf)