Pengungkapan Hugging Face bukan cerita pembobolan akun biasa. Perusahaan mengatakan sebuah dataset berbahaya menyalahgunakan pipeline pemrosesan data, lalu penyerang memakai kerangka agen otonom untuk bergerak di dalam infrastruktur.
Bagian pentingnya adalah simetri kecepatan: serangan berjalan otomatis, dan tim bertahan juga memakai deteksi berbantuan AI serta agen forensik berbasis LLM.
"Autonomous, AI-driven offensive tooling is no longer theoretical."
Jalur masuknya adalah pipeline data
Menurut Hugging Face, dataset berbahaya itu mengeksploitasi dua jalur eksekusi kode: remote-code dataset loader dan injeksi template pada konfigurasi dataset. Kode berjalan di worker pemrosesan, naik ke akses tingkat node, mengambil sebagian kredensial layanan, lalu bergerak lateral ke beberapa kluster internal selama akhir pekan.
Perusahaan tidak menemukan bukti manipulasi pada model publik, dataset, Spaces, image kontainer, atau paket yang telah dirilis. Namun dampak terhadap data mitra atau pelanggan masih dinilai, dan pengguna diminta memutar token akses serta meninjau aktivitas akun terbaru.
Pertahanan juga memakai AI
Insiden pertama terangkat oleh deteksi anomali berbantuan AI. Dalam respons forensik, agen analisis berbasis LLM memproses lebih dari 17.000 peristiwa tindakan penyerang untuk menyusun ulang lini masa, memetakan kredensial yang tersentuh, mengekstrak IOC, dan memisahkan dampak nyata dari aktivitas umpan. Hyper.AI juga mengulang angka 17.000 peristiwa dan penggunaan GLM 5.2.
Model lokal menjadi alat darurat
Hugging Face awalnya mencoba model frontier lewat API komersial, tetapi permintaan forensik berisi perintah eksploit, payload, dan artefak C2 sehingga diblokir oleh guardrail keamanan. Tim kemudian menjalankan GLM 5.2, model open-weight di infrastruktur sendiri, sehingga data penyerang dan kredensial tetap berada di lingkungan internal.
Risiko hub model lebih luas
Riset MalHug memberi konteks lebih luas. Pada mirror Hugging Face yang dioperasikan bersama Ant Group, sistem itu memantau lebih dari 705K model dan 176K dataset selama tiga bulan, menemukan 91 model berbahaya dan 9 skrip pemuat dataset berbahaya. Ancaman yang terlihat mencakup reverse shell, pencurian kredensial browser, dan reconnaissance sistem.
Bagi pengembang, tindakannya jelas: rotasi token Hugging Face, audit upload dan build terbaru, isolasi dataset yang menjalankan remote code, dan perlakukan model serta dataset sebagai aset supply chain, bukan sekadar file konten.
Sumber: pengungkapan keamanan Hugging Face, Hyper.AI, CocoLoop, ringkasan paper MalHug; memeriksa jalur intrusi, 17.000 peristiwa, analisis lokal GLM 5.2, rotasi kredensial, status supply chain, dan latar kode berbahaya di hub model.