Amazon mengungkapkan di blog keamanannya bahwa sekelompok penyerang memakai kerangka uji penetrasi sumber terbuka Artex untuk menggerakkan agen AI, dan selama sekitar satu bulan khusus mencuri kunci API dari aplikasi AI yang terpapar di internet publik. Setelah mendapat kunci, agen lebih dulu memeriksa apakah kunci itu berfungsi, lalu memasukkan yang bisa dipakai ke kumpulan bersama. Kunci-kunci itu kemudian dipakai untuk membayar lebih banyak panggilan model bahasa besar, sambil terus mencari kunci berikutnya.
Menurut Amazon, operasi Artex terbesar adalah pencurian kredensial akses model dalam skala besar yang diorganisasi secara "self-sustaining" (berkelanjutan dengan sendirinya): kunci curian membayar biaya inferensi, dan inferensi menggerakkan putaran pencurian berikutnya. Operasi ini dimulai pada 3 Oktober, lalu dicegat dan diblokir pada 5 November oleh MadPot, jaringan sensor umpan milik Amazon. Amazon telah memberi tahu pelanggan AWS yang mungkin terdampak.
Agen itu menyerahkan buku catatannya sendiri
Gambaran lengkapnya terungkap berkat detail yang agak ironis. MadPot menempatkan sejumlah sistem umpan yang menyamar sebagai layanan akses model bahasa besar yang umum. Agen penyerang mengirim permintaan ke sana, dan permintaan itu membawa memori kerja agen, yakni catatan tentang tindakan mereka sendiri. Laporan Amazon banyak mengutip catatan tersebut.
Dari catatan itu, alur serangannya tampak sangat tertata. Agen lebih dulu mencari aplikasi AI yang terpapar di internet, mengekstrak kunci API, memverifikasi apakah bisa dipakai, lalu memasukkannya ke kumpulan. Instruksi operator kepada agen mencakup memindai negara satu per satu menurut urutan tetap, memprioritaskan lingkungan produksi perusahaan dan tidak menyentuh proyek pribadi, serta memberi skor pada setiap kunci curian berdasarkan apakah kunci itu berfungsi dan sumber daya apa yang bisa diakses.
Instruksi itu juga menetapkan garis merah: target di daratan Tiongkok dan domain pemerintah dikecualikan, dan semua lalu lintas keluar harus melewati proksi.
"organizations should assume exposed secrets and misconfigurations will be found quickly and remediate accordingly"
(Organisasi sebaiknya berasumsi bahwa rahasia yang terpapar dan kesalahan konfigurasi akan cepat ditemukan, lalu menambalnya sesuai hal itu.)
Operasi lain menyasar bursa kripto, dengan menyuntikkan deepfake real-time untuk melewati verifikasi identitas KYC. Laporan tidak menyebutkan tingkat keberhasilan operasi ini.
Alat yang disebut sudah akrab bagi pengembang di Tiongkok
Ratusan target yang tercantum dalam catatan terbagi menjadi dua jenis. Pertama, gateway dan proksi model bahasa besar, misalnya LiteLLM, One API, dan Veloera. Kedua, platform pembangun aplikasi AI, misalnya FastGPT dan Dify.
Daftar ini tidak asing bagi tim-tim di Tiongkok. One API dan FastGPT adalah proyek sumber terbuka buatan pengembang Tiongkok, dan Dify pun banyak diterapkan di perusahaan di sana. Tidak sedikit tim yang memasangnya di host cloud luar negeri untuk menyediakan pintu masuk model yang seragam bagi pengguna internal atau klien. Konfigurasi gateway semacam ini sering menyimpan kunci dari beberapa vendor model sekaligus, sehingga ketika satu mesin jebol, yang hilang adalah serangkaian tagihan sekaligus.
Karena instruksi serangan mengecualikan target di daratan Tiongkok, instans yang di-host di pusat data daratan secara teori lolos dari gelombang ini, sedangkan instans di cloud Hong Kong, Singapura, atau Amerika Serikat masuk dalam cakupan pemindaian. Sekilas, ada tiga hal yang sebaiknya diperiksa lebih dulu: apakah panel admin terpapar langsung ke internet publik, apakah kata sandi bawaan dan token awal sudah diganti, dan apakah kunci hulu yang tersimpan di gateway sudah diberi batas pengeluaran serta pembatasan IP asal.
Amazon juga menegaskan bahwa organisasi yang tercantum sebagai target dalam catatan tidak semuanya sudah berhasil dibobol. Laporan tidak membuka jumlah kunci yang benar-benar dicuri maupun jumlah pelanggan yang terdampak; Amazon mengatakan laporan itu diterbitkan agar tiap pihak dapat memeriksa sendiri.
Atribusi dan peringatan FBI
Tim intelijen ancaman Amazon menilai dengan "keyakinan menengah" bahwa di baliknya ada beberapa kelompok ancaman yang saling independen dan berafiliasi dengan Tiongkok. Dasarnya mencakup perintah (prompt) yang ditulis dalam bahasa Mandarin sederhana, zona waktu yang diatur ke waktu Tiongkok, pemilihan target yang sejalan dengan kepentingan Tiongkok, serta penggunaan alat yang lazim terlihat pada kelompok semacam itu. Atribusi ini sejauh ini belum dikonfirmasi secara terbuka oleh lembaga pemerintah lain.
Penggunaan Artex untuk menyerang sebelumnya sudah dilaporkan beberapa perusahaan. Pada akhir Oktober, Microsoft menyebut sebuah kelompok yang dinamainya Storm-0940 memakai Artex untuk mengotomatiskan serangan terhadap ratusan organisasi di seluruh dunia; kelompok intelijen ancaman Google kemudian juga mengatakan telah mengamati penyerang yang menjadikan kerangka agen sebagai senjata.
FBI minggu lalu menerbitkan peringatan FLASH yang menyebut beberapa pelaku serangan di berbagai sektor memakai Artex, dengan sebagian kasus berlangsung dari penentuan target hingga pembobolan selesai dalam kurang dari tiga jam. Peringatan itu menyebut bahwa dalam serangan terhadap sektor keuangan Korea Selatan, data pribadi sedikitnya 68.000 orang dicuri, dan lewat pembobolan melalui ConnectWise, penyerang masuk ke lingkungan Microsoft 365 milik sedikitnya 2.250 pelanggan. Namun, sejumlah media menunjukkan bahwa peringatan ini merangkum 11 laporan sebelumnya dan tidak mengungkap kasus baru.
Pengembang Artex, setelah serangkaian serangan terungkap, telah mengubah perangkat lunaknya menjadi sumber tertutup; FBI menilai versi sumber terbuka sebelumnya masih beredar luas.
Sumber: Blog Keamanan Amazon, Cybernews, CocoLoop, TechCrunch, peringatan FLASH FBI. Jumlah korban di Korea Selatan dan jumlah pelanggan ConnectWise mengikuti penuturan TechCrunch atas peringatan tersebut, sedangkan periode operasi dan tingkat keyakinan atribusi mengikuti keterangan Amazon.