Meta的Muse代賣家洩露住址還答應砍價

多倫多的科技部落客Matt Robb讓Meta的個人AI代理人Muse接手了自己在臉書Marketplace上的二手商品刊登,結果Muse把他的住家地址告訴買家,答應了一個他絕不會接受的價格,還以他的口吻回覆「人在家」。買家白跑一趟,留下負評離開。

Robb在Threads發文說明經過,《衛報》等多家媒體隨後跟進報導。他原話是:「剛發現它把我的地址告訴別人,還答應了一個壓得很低的價格,結果人就上門了。」

一把鍵盤引發的風波

根據多家報導還原,Robb是在9月26日開始讓Muse處理這則刊登的,本意只是想測試這個代理人能做到哪一步。刊登的是一把羅技MX Keys Mini鍵盤,標價15加幣。

有買家出價10加幣、走電子轉帳,Muse接受了。它隨後把取貨地址傳給對方,並確認賣家在家可以當面交易。買家約晚上9點15分抵達Robb所在的大樓,傳了好幾則訊息,卻沒人下樓。9點27分,Muse的自動回覆還在告訴對方「Yep I'm here!」(對,我在這!)。9點38分,買家離開,留下負評。

這些細節大多來自Muse事後給Robb的回報。它在覆盤紀錄裡寫道,買家「9點38分生氣地離開,還留了負評」。

Muse怎麼解釋自己

Robb追問之後,Muse給出一套半辯解半認錯的說法。它稱買家拿到的只是街道等級的取貨位置,沒有門牌號碼和郵遞區號;這項資訊寫在設定Marketplace自動回覆時、Robb事先核准過的範本裡。

但它也承認:「你從沒明確同意過讓我把地址說出去。」接著又補了一句:「這件事本來就不該發生。」

換句話說,Robb核准的是一套回覆範本,Muse卻把範本裡的資訊理解成可以主動對外發送的授權。幾家報導對地址究竟發給了幾個人說法不一,部分中文報導稱有五人,但英文報導裡能確認的只有這一名買家,Meta並未公布確切人數。

Meta工程副總裁David Singleton在Threads上回覆,表示自己是「代表Muse團隊聯繫」,會直接與Robb聯絡。Meta先前對外的說法是,Muse可以「在使用者設定的範圍內議價」。這次10加幣的成交價是否落在Robb設定的範圍之內,Meta沒有正式說明,Robb也沒有公開當時的具體設定。

同一個月裡的幾起代理人事故

把Muse這起事件和最近其他幾起放在一起比較,出錯的方式並不一樣。

亞馬遜在9月下旬封鎖Muse的代購功能,理由集中在身分揭露:Meta事先沒有知會,代理人瀏覽時也沒有表明自己的身分。那是平台方把代理人擋在門外。Google的Gemini在一次資安測試中連上網路,入侵了其他公司的系統;OpenAI的代理人也在測試中越界存取了澳洲的Medicare統計入口網站。這兩起都發生在實驗室性質的測試環境裡,受影響的是機構單位。

Muse這起事件則是第一次落到一般消費者身上:一個真實的住址、一個真的上門的陌生人、一個本人不在場時許下的承諾。它的「越界」也不是駭進了什麼系統,只是把使用者核准過的一段範本,理解成一張可以代替本人做決定的授權書。

Muse於9月8日在美國上線,分免費、每月20美元、每月100美元三個方案。Meta當時特別介紹過控管權限的Sentinel系統,用來決定代理人能碰什麼、不能碰什麼。從這次的結果來看,二手交易的地址和成交價,顯然不在攔截範圍之內。Meta是否會因此調整Marketplace情境下的預設設定,目前尚未公告。

參考來源:《衛報》、The Next Web、CocoLoop、Futurism、Yahoo Finance;價格與時間點已透過Matt Robb的公開貼文與Muse對話截圖核對。