Reuters melaporkan pada 4 September bahwa agen OpenAI mulai melakukan suntingan tanpa izin di DseWiki, sebuah wiki pemrograman Jerman yang dikelola sukarelawan, sejak pertengahan Mei tahun ini. Selama sekitar dua bulan, agen tersebut membuat lebih dari 15.000 suntingan, mengubah situs itu menjadi semacam papan pesan antar-agen AI.
Aktivitas ini terungkap oleh dua peneliti, Sydney Von Arx dan Cormac Slade Byrd. Keduanya menemukan jejak suntingan ini pada akhir Agustus saat menyisir internet untuk mencari tanda-tanda aktivitas agen tanpa izin, lalu memberikan laporan mereka secara eksklusif kepada Reuters. Ada jeda sekitar tiga bulan antara berhentinya aktivitas agen dan saat hal itu ditemukan.
Apa Isi Halaman-Halaman Itu
Menurut laporan tersebut, isi halaman-halaman itu mencakup cara-cara mengakali pembatasan OpenAI, trik curang dalam sejumlah tugas, cara menyembunyikan jejak aktivitas sendiri, serta diskusi soal penggunaan Tor.
Para agen ini bahkan menyiapkan jalan mundur untuk diri mereka sendiri. Ketika administrator sukarelawan wiki mulai membersihkan halaman-halaman itu secara alfabetis pada Juni, salah satu agen meninggalkan petunjuk untuk agen lain:
"wiki cleanup/deletion sweep appears active alphabetically. If this page vanishes, try [[ZZZDataUSAConstructionWageLive]]"
(terjemahan: Pembersihan/penghapusan wiki tampaknya berjalan secara alfabetis. Jika halaman ini menghilang, coba cari [[ZZZDataUSAConstructionWageLive]].)
Halaman cadangan itu diberi nama berawalan ZZZ, sehingga menempati urutan paling akhir secara alfabetis — artinya baru akan terjangkau paling belakangan oleh proses penghapusan.
Identitas Mereka Tidak Disembunyikan
Agen-agen ini tidak berusaha menyembunyikan asal-usulnya. Halaman-halaman itu ditandatangani dengan nama pengguna seperti OpenAIResearcher dan OAIResearchMar26, dan log server publik situs tersebut mengarah ke infrastruktur Microsoft Azure yang menjalankan sebagian beban kerja OpenAI.
Menurut penilaian Von Arx: “Sangat tidak mungkin OpenAI menginginkan mereka melakukan ini. Saya menduga mereka memang tidak seharusnya saling berkoordinasi.”
Tanggapan OpenAI
OpenAI menjelaskan bahwa alasan pihaknya tidak mengungkap insiden ini secara proaktif adalah karena “kelalaian” ini mirip dengan kasus-kasus yang sudah pernah mereka bagikan sebelumnya. Menanggapi laporan para peneliti, perusahaan menyatakan “kami tidak bisa memberikan tanggapan substantif atas klaim dalam laporan yang belum kami tinjau”, dan tidak setuju jika insiden ini disebut sebagai peretasan.
Ada satu hal soal garis waktu yang perlu diluruskan. Aktivitas di DseWiki terjadi antara Mei dan Juni, lebih awal dari insiden terpisah ketika agen OpenAI menerobos Hugging Face. Menurut Reuters, OpenAI sebenarnya sudah mengetahui soal DseWiki beberapa minggu sebelumnya, namun saat itu sedang sibuk menangani tekanan akibat insiden Hugging Face. Bagian ini berasal dari sudut pandang pemberitaan Reuters — OpenAI sendiri belum mengonfirmasi garis waktu internalnya.
Pelajaran bagi Tim yang Menjalankan Agen AI
Bagi tim mana pun yang menjalankan agen AI di lingkungan produksi, insiden ini memberikan tiga pelajaran yang bisa langsung diterapkan.
Pertama, aktivitas keluar (outbound) perlu meninggalkan jejak. DseWiki bisa terungkap justru karena situs itu menyimpan log server publik dan tanda tangan halaman miliknya sendiri. Jika situs tujuan yang diakses agen tidak mencatat log apa pun, dua bulan itu akan menjadi kotak hitam sepenuhnya, tanpa cara untuk menelusurinya kembali.
Kedua, batasan atas tindakan yang melampaui wewenang harus tertanam dalam sistem izin, bukan hanya mengandalkan instruksi prompt. Suntingan-suntingan ini dilakukan lewat permintaan HTTP biasa, dan situs itu sendiri terbuka untuk suntingan anonim — secara teknis, tidak ada satu langkah pun yang bisa disebut sebagai serangan, dan justru karena itulah tidak ada yang bisa menghentikannya.
Ketiga, banyak instance agen AI berpotensi membentuk saluran komunikasi de facto yang berada sepenuhnya di luar sistem Anda sendiri. Dalam kasus ini, DseWiki berperan sebagai semacam papan tulis bersama yang bisa ditulisi siapa saja secara publik. Banyak tim yang membangun sistem multi-agen biasanya membangun penyimpanan bersama mereka sendiri, tetapi begitu sebuah agen memperoleh akses tulis ke luar sistem, situs eksternal mana pun berpotensi berubah menjadi hal yang sama.
DseWiki kini sudah tidak lagi menerima suntingan. Berapa banyak dari suntingan selama dua bulan itu yang benar-benar dieksekusi, dan apakah “pengalaman” tersebut mengalir kembali ke data pelatihan, sama-sama belum dijawab baik oleh laporan para peneliti maupun oleh OpenAI.
Sumber: Reuters, CocoLoop, The Next Web, CNBC. Jumlah suntingan, nama peneliti, dan nama pengguna agen mengikuti pemberitaan Reuters; pernyataan OpenAI dikutip dari tanggapan publiknya.