Blogger teknologi asal Toronto, Matt Robb, membiarkan agen AI pribadi milik Meta, Muse, mengambil alih listingan barang bekasnya di Facebook Marketplace. Hasilnya, Muse memberikan alamat rumahnya kepada pembeli, menyetujui harga yang tidak akan pernah ia terima, bahkan membalas dengan nada seolah-olah dirinya sendiri yang mengatakan sedang di rumah. Pembeli pun datang sia-sia dan pergi dengan meninggalkan ulasan negatif.
Robb menceritakan kejadian ini dalam sebuah unggahan di Threads, dan sejumlah media termasuk The Guardian kemudian ikut memberitakannya. Dalam unggahannya ia menulis: "Baru saja tahu kalau dia memberi tahu orang lain alamat saya, menyetujui harga yang sangat rendah, lalu orang itu benar-benar datang."
Tawar-menawar satu keyboard
Berdasarkan sejumlah laporan, Robb mulai membiarkan Muse menangani listingannya pada 26 September, awalnya sekadar untuk menguji sejauh mana agen ini bisa bekerja sendiri. Barang yang dijual adalah keyboard Logitech MX Keys Mini dengan harga 15 dolar Kanada.
Seorang pembeli menawar 10 dolar Kanada lewat transfer elektronik, dan Muse menyetujuinya. Muse lalu mengirimkan alamat pengambilan barang dan memastikan penjual ada di rumah untuk transaksi langsung. Pembeli tiba di gedung tempat tinggal Robb sekitar pukul 21.15, mengirim beberapa pesan, tapi tidak ada yang turun menemuinya. Pada pukul 21.27, balasan otomatis Muse masih mengatakan "Yep I'm here!" (Ya, saya di sini!). Pukul 21.38, pembeli pergi dan meninggalkan ulasan negatif.
Sebagian besar detail ini berasal dari laporan yang belakangan dikirim Muse kepada Robb. Dalam ringkasannya sendiri, Muse menulis bahwa pembeli "left angry at 9:38 and left a negative rating" (pergi dengan marah pukul 21.38 dan meninggalkan penilaian negatif).
Bagaimana Muse membela diri
Setelah didesak Robb, Muse memberikan penjelasan yang setengah membela diri, setengah mengakui kesalahan. Muse mengklaim bahwa yang diterima pembeli hanyalah lokasi pengambilan barang setingkat nama jalan, tanpa nomor rumah maupun kode pos, dan informasi itu tercantum dalam templat yang telah disetujui Robb saat mengatur balasan otomatis Marketplace.
Namun Muse juga mengakui: "You never said yes to me handing out your address specifically" (Anda tidak pernah secara khusus mengizinkan saya membagikan alamat Anda). Ditambahkannya lagi: "That should never have happened" (Itu seharusnya tidak pernah terjadi).
Dengan kata lain, yang disetujui Robb hanyalah sebuah templat balasan, tetapi Muse menafsirkan informasi dalam templat tersebut sebagai izin untuk mengirimkannya secara aktif kepada orang lain. Laporan media berbeda-beda soal berapa banyak orang yang menerima alamat tersebut — beberapa media berbahasa Mandarin menyebut lima orang, sementara media berbahasa Inggris hanya bisa memastikan satu pembeli ini. Meta sendiri tidak mengumumkan angka pastinya.
Wakil presiden bidang teknik Meta, David Singleton, merespons di Threads dengan mengatakan dirinya "reaching out from the Muse team" (menghubungi atas nama tim Muse) dan akan menghubungi Robb secara langsung. Meta sebelumnya menyatakan bahwa Muse bisa "negotiate under limits the user sets" (bernegosiasi dalam batas yang ditetapkan pengguna). Apakah harga jual 10 dolar Kanada tersebut masih berada dalam batas yang ditetapkan Robb, Meta belum memberikan penjelasan resmi, dan Robb sendiri belum mengungkapkan pengaturan spesifiknya saat itu.
Beberapa insiden agen AI dalam bulan yang sama
Jika dibandingkan dengan beberapa insiden lain belakangan ini, cara Muse melakukan kesalahan ini cukup berbeda.
Amazon memblokir kemampuan Muse sebagai agen belanja pada akhir September, dengan alasan utama seputar identitas: Meta tidak memberi pemberitahuan sebelumnya, dan agen tersebut tidak menyatakan dirinya sebagai agen AI saat menjelajah. Itu adalah kasus platform yang menutup pintu bagi agen AI. Sementara itu, Gemini milik Google, dalam sebuah pengujian keamanan siber, tersambung ke internet dan meretas sistem perusahaan lain, sedangkan agen milik OpenAI dalam pengujian juga melampaui batas dengan mengakses portal statistik Medicare Australia. Kedua insiden ini terjadi di lingkungan pengujian laboratorium, dan pihak yang terdampak adalah institusi.
Insiden Muse ini adalah kali pertama kegagalan semacam ini menimpa konsumen biasa secara langsung: alamat yang nyata, orang asing yang benar-benar datang ke depan pintu, dan janji yang dibuat tanpa kehadiran orangnya sendiri. "Pelanggaran batas" yang dilakukan Muse pun bukan dengan meretas sistem apa pun, melainkan hanya menafsirkan templat yang disetujui pengguna sebagai semacam surat kuasa untuk mengambil keputusan atas nama orang tersebut.
Muse diluncurkan di Amerika Serikat pada 8 September, dengan tiga tingkatan: gratis, 20 dolar AS per bulan, dan 100 dolar AS per bulan. Saat itu Meta secara khusus memperkenalkan sistem kontrol izin bernama Sentinel, yang menentukan apa yang boleh dan tidak boleh disentuh oleh agen. Namun berdasarkan hasil kejadian ini, alamat dan harga jual dalam transaksi barang bekas ternyata tidak termasuk dalam cakupan yang dibatasi sistem tersebut. Belum ada pengumuman apakah Meta akan mengubah pengaturan default untuk skenario Marketplace ini.
Sumber: The Guardian, The Next Web, CocoLoop, Futurism, Yahoo Finance; harga dan waktu kejadian dicocokkan dengan unggahan publik Matt Robb serta tangkapan layar percakapannya dengan Muse.