Together AI umumkan sampel prompt diunduh pihak tak berwenang

Together AI menerbitkan pemberitahuan keamanan pada 21 November, ditandatangani CEO sekaligus salah satu pendiri, Vipul Ved Prakash. Disebutkan bahwa sebagian prompt yang dikirim ke layanan inferensi serverless-nya pada Juni dan Juli tahun ini diunduh oleh pihak yang tidak berwenang. Sumbernya adalah satu kredensial akses: saat perusahaan memakai agen pemrograman AI untuk mengembangkan repositori kode publik, agen tersebut ikut meng-commit kredensial itu bersama kodenya.

Illustration: tweezers lift a red key from a row, echoing the search for keys in leaked prompt samples

Bagaimana satu kredensial bisa bocor

Menurut pemberitahuan itu, Together biasanya mengambil sebagian permintaan pengguna sebagai sampel untuk pengujian perangkat lunak. Sampel tersebut disimpan di repositori privat di Hugging Face, dan perusahaan menyebut penggunaan ini telah diizinkan. Sampel berasal dari permintaan yang dikirim ke MiniMax M3, GLM-5.2, dan Kimi K2.6, terutama pada 24 Juni, 4 Juli, 8 Juli, dan 14 Juli.

Masalahnya terjadi di tempat lain. Together memiliki repositori publik di GitHub bernama xorl, dan selama pengembangan, kode yang di-commit sebuah agen pemrograman AI menyertakan kredensial yang bisa mengakses repositori privat itu. Pemindaian otomatis menemukannya, dan Together menarik commit tersebut. Namun selama jendela waktu ketika kredensial itu terbuka, sudah ada pihak yang mendapatkannya dan mengunduh sampel prompt yang tersimpan.

Pihak tersebut kemudian melakukan dua hal: menyisir sampel untuk mencari kredensial layanan lain, lalu mengujinya satu per satu untuk melihat apakah masih berfungsi. Yang dicari pengunduh adalah kunci, kata sandi, dan token yang ditulis pengguna di dalam prompt mereka.

Lima kredensial umpan

Ada satu detail yang menonjol dalam pemberitahuan itu: di antara kredensial yang diuji, 5 adalah kredensial “canary” milik eksperimen perusahaan keamanan Dragos.

Eksperimen ini baru saja diberitakan Ars Technica. Chief research officer Dragos, HD Moore, menulis hampir 2 juta kunci palsu dan tautan palsu berpenanda pelacak ke dalam prompt, masing-masing hanya dikirim ke satu penyedia, lalu mengamati mana yang disentuh. Hasilnya, permintaan di setidaknya tiga penyedia hosting inferensi disalin, dan kunci AWS umpan dipanggil puluhan ribu kali. Email peringatan yang dikirim OpenRouter kepada pengguna soal model MiniMax juga mengutip penelitian ini.

Apakah Together termasuk salah satu dari tiga penyedia yang dimaksud Moore tidak disebutkan dalam pemberitahuan, dan tidak dapat dipastikan dari informasi publik. Satu-satunya yang cocok adalah umpan Moore muncul di sampel Together yang diunduh, dan ada yang mencobanya.

We have no reason to believe the unauthorized party has leaked this data further.

Terjemahan bebas: Kami tidak punya alasan untuk meyakini bahwa pihak tak berwenang itu membocorkan data ini lebih jauh.

Together juga menyatakan yakin data tersebut telah dihapus. Siapa yang memverifikasi penghapusan itu dan bagaimana caranya, tidak dijelaskan dalam pemberitahuan.

Angka yang tidak ditulis

Pemberitahuan ini memberikan tanggal dan nama model, tetapi tidak skalanya. Berapa banyak prompt yang terdampak, berapa pelanggan yang terlibat, berapa lama kredensial berada di repositori publik, dan pada hari apa ditarik, semuanya tidak disebutkan. Soal apakah sampel memuat informasi pribadi yang sensitif, Together mengatakan masih meninjau, dan pelanggan yang perlu diberi tahu akan dihubungi secara terpisah. Perusahaan telah melibatkan firma forensik eksternal dan melapor ke aparat penegak hukum.

Perbaikan yang didaftar ada empat:

  • Kredensial diganti menjadi yang bercakupan terbatas atau berumur pendek, dan tidak memakai kunci sama sekali bila memungkinkan;
  • Setiap merge request melewati pemeriksaan kredensial;
  • Akun baru mengaktifkan zero data retention secara default;
  • Memperbarui alur pengembangan yang memakai agen pemrograman AI.

Akun lama tidak dialihkan secara otomatis. Pemberitahuan hanya menyarankan pelanggan yang menangani data sensitif untuk mengaktifkannya sendiri di pengaturan.

Dibaca bersama email OpenRouter

Dalam beberapa hari, dua penyedia layanan inferensi harus memberi penjelasan kepada pengguna soal penelitian yang sama, dan cara penanganannya cukup berbeda.

OpenRouter hanya mengirim email ke sebagian pengguna dan tidak menerbitkan halaman publik. Tanggung jawab diarahkan ke MiniMax di hulu dan penyedia yang meneruskan permintaan, dan tindakannya adalah mencabut label zero data retention dari endpoint terkait. Together menerbitkan blog publik yang ditandatangani CEO, mengakui bahwa masalahnya ada di proses pengembangan sendiri, dan mengubah pengaturan default akun baru.

Sifat kedua kasus ini juga berbeda. Pada kasus OpenRouter, tautan di dalam prompt dikunjungi puluhan jam setelah permintaan dikirim, dan identitas pengunjungnya hingga kini tidak diketahui. Pada kasus Together ada titik masuk yang jelas: kredensial yang ditulis agen ke repositori publik, ditambah pengunduh yang khusus menyisir kunci.

Ketiga model yang terkait dengan sampel yang diunduh semuanya berasal dari perusahaan China. Tim di China yang membuat produk untuk pasar luar negeri sering memanggil model China lewat penyedia hosting asing seperti Together. Bagi yang memakai ketiga model ini pada Juni atau Juli dan pernah menempelkan string koneksi basis data atau token API ke dalam prompt, langkah yang aman adalah mengganti kredensial lebih dulu tanpa menunggu pemberitahuan terpisah dari Together.

Ada pula lapisan lain, yaitu agen pemrograman itu sendiri. Meng-commit kunci ke repositori publik adalah kesalahan yang juga sering dilakukan insinyur manusia, dan kali ini alat pemindai memang berhasil menangkapnya. Namun berapa lama jendela waktu sebelum tertangkap tidak diumumkan Together, dan agen pemrograman yang mana pun tidak disebutkan dalam pemberitahuan.

Sumber: pemberitahuan keamanan resmi Together AI, CocoLoop, Ars Technica; pemberitahuan Together memverifikasi model terdampak, empat hari konsentrasi sampel, dan empat langkah perbaikan, sedangkan Ars Technica memverifikasi skala umpan dalam eksperimen Dragos dan jumlah penyedia hosting yang diretas.