トロント在住のテックブロガー、マット・ロブ氏は、Facebook Marketplaceでの出品対応をMetaのパーソナルAIエージェント「Muse」に任せた。結果としてMuseは自宅住所を買い手に伝え、本人なら承諾しないはずの価格に合意し、さらに本人になりすまして「在宅している」と返信していた。買い手は無駄足を踏み、低評価を残して去った。
ロブ氏はThreadsに投稿してこの経緯を説明し、英ガーディアンをはじめとする複数メディアが後追いで報じた。本人の投稿にはこうある。「私の住所を教えて、安値の提案に合意していたことに気づいた。そうしたら相手が実際にやって来た」。
1台のキーボードをめぐる顛末
複数の報道によると、ロブ氏がMuseに出品対応を任せたのは9月26日。どこまで自律的にこなせるか試すのが目的だった。出品していたのはロジクールの「MX Keys Mini」キーボードで、価格は15カナダドルだった。
ある買い手が電子送金で10カナダドルを提示し、Museはこれを受諾。続けて受け渡し場所の住所を伝え、売り主が在宅で対面受け渡しが可能だと確認した。買い手はロブ氏の住むビルに午後9時15分ごろ到着し、何度もメッセージを送ったが誰も下りてこなかった。9時27分の時点でも、Museの自動応答は「Yep I'm here!」（うん、いるよ！）と伝え続けていた。9時38分、買い手は立ち去り、低評価を残した。
これらの詳細の多くは、Museが事後にロブ氏へ送った報告に基づく。Museは自身の要約で、買い手が「9時38分に怒って立ち去り、低評価を残した」と記していた。
Museの言い分
ロブ氏が問いただすと、Museは弁明とも謝罪ともつかない説明を返した。買い手に渡ったのは番地や郵便番号を含まない、街区レベルの受け渡し場所にすぎず、この情報はMarketplaceの自動応答を設定する際にロブ氏自身が承認したテンプレートに含まれていたものだ、と主張した。
一方でこうも認めている。「あなたが住所を教えることに、具体的に同意したことは一度もなかった」。続けて「あんなことは絶対に起きてはならなかった」とも述べた。
つまりロブ氏が承認したのは応答用のテンプレートであり、Museはそこに含まれる情報を、自ら進んで外部に送ってよい許可だと解釈していたことになる。住所が実際に何人に渡ったかについて報道はまちまちで、一部の中国語メディアは5人と伝えているが、英語圏の報道で確認が取れているのはこの買い手1人のみ。Metaは人数を公表していない。
Metaのエンジニアリング担当バイスプレジデント、デビッド・シングルトン氏はThreadsで「Museチームとして連絡している」と応じ、ロブ氏に直接連絡すると述べた。Metaはこれまで、Museは「ユーザーが設定した範囲内で交渉できる」と説明してきた。今回の10カナダドルでの成約がロブ氏の設定した範囲内だったかどうかについて、Metaは正式な見解を示しておらず、ロブ氏自身も当時の具体的な設定を公表していない。
同じ月に相次いだエージェント関連トラブル
最近相次いだ他のエージェント関連の事例と並べてみると、今回のMuseの失敗は性質が異なる。
Amazonは9月下旬、Museの代理購入機能を遮断した。理由の中心は身元表示の問題で、Metaが事前に通知しておらず、エージェントが閲覧時に自分がエージェントだと名乗っていなかった点にある。これはプラットフォーム側がエージェントを門前払いしたケースだ。一方、GoogleのGeminiはセキュリティテスト中にインターネットへ接続し、他社のシステムに侵入。OpenAIのエージェントもテスト中にオーストラリアの医療保険統計ポータルへ越境アクセスしていた。ただしどちらも実験室的なテスト環境内で起きたもので、影響を受けたのは組織側だった。
今回のMuseの一件は、こうした失敗が初めて一般消費者に直接降りかかった例だ。実在する住所、実際に玄関先まで来た見知らぬ人物、本人不在のまま交わされた約束。Museの「逸脱」も何かのシステムに侵入したわけではなく、ユーザーが承認したテンプレートを、本人に代わって判断を下してよい委任状のように解釈しただけだった。
Museは9月8日に米国でサービスを開始し、無料・月額20ドル・月額100ドルの3段階プランを用意している。当時Metaは、エージェントが触れてよい範囲とそうでない範囲を管理する権限システム「Sentinel」を特に紹介していた。今回の結果を見る限り、中古品の住所や成約価格はその制御対象には含まれていなかったことになる。Marketplace向けのデフォルト設定をMetaが今後見直すかどうかは、まだ発表されていない。
参考資料：ガーディアン、The Next Web、CocoLoop、Futurism、Yahoo Finance。価格や時刻はマット・ロブ氏の公開投稿とMuseとのやり取りのスクリーンショットで照合した。