Platform inferensi model terbuka Fireworks pada Senin pekan ini mengonfirmasi bahwa perusahaan mengalami gelombang intrusi baru, yang membocorkan informasi tagihan, bobot model, dan dataset milik sebagian pelanggan. Menurut laporan, pekan lalu perusahaan sudah lebih dulu memberi tahu beberapa pelanggan besar seperti Harvey tentang insiden yang lebih serius daripada kejadian Oktober, dan kini menyelidikinya bersama Unit 42 milik perusahaan keamanan siber Palo Alto Networks.
Juru bicara Fireworks menyatakan perusahaan "sangat serius menanggapi insiden ini", berkomunikasi langsung dengan pelanggan, serta bersama Unit 42 menelusuri masalah dan memperkuat sistem. Juru bicara perusahaan AI hukum Harvey mengatakan insiden ini tidak memengaruhi data pelanggan Harvey.
Notion, Vercel, dan Cursor sama-sama menggunakan layanan Fireworks. Apakah data mereka dan data pengguna akhir mereka terdampak masih belum jelas, dan ketiga perusahaan itu belum memberikan pernyataan terbuka.
Insiden kedua dalam sebulan
Bila ditarik dalam satu garis waktu, ini adalah kali kedua Fireworks dilanda masalah dalam sebulan.
Pada 6 Oktober, Fireworks menemukan ada pihak yang memakai kredensial internal perusahaan untuk membaca variabel lingkungan pada tugas evaluasi di "sejumlah terbatas" akun pelanggan, termasuk API key dan token pihak ketiga yang disimpan sebagai secret. Pada malam 9 Oktober perusahaan menerbitkan pengumuman keamanan, lalu keesokan harinya mencabut sejumlah API key pengguna dan merotasi token akun layanan. Pengumuman saat itu menyatakan dengan jelas:
"we have not detected evidence of unauthorized access to customer models, datasets, training data"
(Kami belum menemukan bukti akses tanpa izin ke model, dataset, maupun data pelatihan pelanggan.)
Sebulan kemudian, bobot model dan dataset muncul dalam daftar yang bocor. Fireworks menyebut saat ini belum bisa memastikan apakah kedua insiden itu berkaitan. Halaman pengumuman Oktobernya berhenti pada pembaruan 10 Oktober dengan status "pemantauan berkelanjutan", dan hingga naskah ini diterbitkan belum ditambahkan keterangan soal insiden November.
Yang terseret bukan hanya satu perusahaan
Saat intrusi Oktober terjadi, Fireworks tidak sendirian. Dalam laporan 30 Oktober, perusahaan keamanan cloud Wiz menyebut gelombang ini sebagai "Oktober Hitam" bagi platform pengembang AI: awalnya mereka mendaftar 9 perusahaan, termasuk Fireworks, Railway, Warp, dan Lightning AI, dan pada pembaruan 10 November jumlah yang mengungkap insiden keamanan naik menjadi 16 perusahaan, termasuk Brev milik NVIDIA.
Kesamaan yang dirangkum Wiz adalah penyerang secara khusus mencari secret di dalam variabel lingkungan, terutama yang bisa dipakai memanggil layanan AI. Setelah mendapatkannya, mereka mengirim satu permintaan untuk menguji apakah key itu berfungsi, lalu memanggil layanan secara masif lewat proxy pool, dan akhirnya menguangkannya lewat jalur penjualan kembali. Di industri, praktik mencuri kuota model bahasa besar ini disebut LLM hijacking. Dalam satu kasus yang diberikan Wiz, key yang bocor dipanggil sekitar 800.000 kali dalam kurang lebih 30 jam; pada kasus lain terjadi 1,7 juta panggilan dalam sekitar 13 jam, dan menurut harga resmi, kedua kasus itu bila digabungkan bisa melampaui 100.000 dolar AS.
Menurut laporan, Unit 42 menilai serangan terhadap Fireworks ini berkaitan dengan kelompok kejahatan siber yang menjalankan LLM hijacking. Pernyataan ini sejauh ini hanya muncul dalam kutipan media; Unit 42 belum menerbitkan laporan publik dan tidak menyebut kelompok mana yang dimaksud.
Jendela pendanaan bertabrakan dengan insiden keamanan
Waktunya sangat tidak menguntungkan bagi Fireworks. Perusahaan yang berdiri pada 2022 ini pada Juli lalu sudah mencapai pendapatan tahunan 1 miliar dolar AS dengan valuasi 17,5 miliar dolar AS; menurut orang yang mengetahui masalah ini, mereka semula berencana memulai putaran pendanaan baru pekan ini dengan target valuasi minimal 30 miliar dolar AS.
Masih menurut orang yang mengetahui masalah ini, sebagian pelanggan besar yang menghabiskan beberapa juta dolar per tahun di platform sedang mempertimbangkan untuk pindah. Fireworks tidak menanggapi apakah pendanaan akan ditunda atau berapa banyak pelanggan yang benar-benar pindah, dan bagian informasi ini saat ini belum dapat diverifikasi.
Bagi pengguna, saran dalam pengumuman Oktober Fireworks tetap berlaku kali ini: menghapus key yang tersimpan di Fireworks tidak membuat key itu sendiri menjadi tidak berlaku. Rotasi kredensial pihak ketiga perlu dilakukan di penyedia layanan terkait, lalu periksa log akses untuk kredensial tersebut.
Sumber: Sina Finance, pengumuman keamanan Fireworks, CocoLoop, laporan riset keamanan Wiz. Hal yang diverifikasi mencakup cakupan kebocoran pada kedua insiden, jumlah platform terdampak, dan jumlah panggilan akibat penyalahgunaan key; angka pendapatan dan valuasi mengikuti angka yang dilaporkan.