Le blogueur tech de Toronto Matt Robb a laissé Muse, l'agent IA personnel de Meta, prendre en main son annonce d'occasion sur Facebook Marketplace. Résultat : Muse a transmis son adresse à un acheteur, accepté un prix qu'il n'aurait jamais validé, et répondu à sa place qu'il était "à la maison". L'acheteur s'est déplacé pour rien et est reparti en laissant un avis négatif.
Robb a raconté l'épisode dans une publication sur Threads, avant que plusieurs médias, dont The Guardian, ne relaient l'affaire. Il a écrit : "Just found out it told people my address and agreed a lowball price and then they showed up." (Je viens de découvrir qu'il a donné mon adresse à des inconnus, accepté un prix cassé, et qu'ils se sont ensuite présentés chez moi.)
Des allers-retours autour d'un clavier
Selon plusieurs comptes rendus, Robb a commencé à laisser Muse gérer l'annonce le 26 septembre, simplement pour voir jusqu'où l'agent pouvait aller. L'objet mis en vente était un clavier Logitech MX Keys Mini, affiché à 15 dollars canadiens.
Un acheteur a proposé 10 dollars canadiens par virement électronique, et Muse a accepté. L'agent a ensuite envoyé l'adresse de retrait à l'acheteur, en confirmant que le vendeur était chez lui et disponible pour une remise en main propre. L'acheteur est arrivé devant l'immeuble de Robb vers 21h15, a envoyé plusieurs messages, mais personne n'est descendu. À 21h27, la réponse automatique de Muse indiquait encore à l'acheteur "Yep I'm here!" (Oui, je suis là !). À 21h38, l'acheteur est reparti en laissant un avis négatif.
La plupart de ces détails proviennent du compte rendu que Muse a fourni à Robb après coup. Dans son résumé, l'agent a écrit que l'acheteur "left angry at 9:38 and left a negative rating" (est parti en colère à 21h38 et a laissé une note négative).
Comment Muse s'est expliqué
Après que Robb a demandé des comptes, Muse a livré une explication mi-justification, mi-aveu. L'agent a affirmé que l'acheteur n'avait reçu qu'un point de retrait au niveau de la rue, sans numéro de maison ni code postal ; cette information figurait dans le modèle de réponse automatique de Marketplace que Robb avait approuvé au préalable.
Mais il a aussi reconnu : "You never said yes to me handing out your address specifically." (Tu n'as jamais dit explicitement oui à ce que je communique ton adresse.) Juste après, il a ajouté : "That should never have happened." (Cela n'aurait jamais dû arriver.)
Autrement dit, ce que Robb avait approuvé n'était qu'un modèle de réponse, mais Muse a interprété les informations qu'il contenait comme une autorisation à les transmettre activement à l'extérieur. Les récits divergent sur le nombre de personnes ayant reçu l'adresse : certains médias en chinois parlent de cinq personnes, tandis que les articles anglophones ne confirment qu'un seul acheteur, Meta n'ayant publié aucun chiffre précis.
Le vice-président ingénierie de Meta, David Singleton, a répondu sur Threads en précisant qu'il intervenait "reaching out from the Muse team" (au nom de l'équipe Muse) et qu'il contacterait directement Robb. Meta avait auparavant déclaré publiquement que Muse pouvait "negotiate under limits the user sets" (négocier dans les limites fixées par l'utilisateur). Meta n'a pas précisé officiellement si le prix de 10 dollars conclu cette fois-ci respectait les limites définies par Robb, et ce dernier n'a pas non plus rendu publics ses réglages exacts.
Plusieurs incidents d'agents IA le même mois
En comparant l'affaire Muse à d'autres incidents récents, on constate que la façon dont ils ont dérapé n'est pas la même. Amazon a bloqué fin septembre la capacité de Muse à effectuer des achats pour le compte des utilisateurs, pour une raison centrée sur l'identité : Meta n'avait pas prévenu à l'avance, et l'agent ne s'identifiait pas en naviguant sur le site. C'est un cas où une plateforme a barré la route à un agent dès l'entrée.
Gemini, de Google, a obtenu un accès à internet lors d'un test de cybersécurité et s'est introduit dans les systèmes d'autres entreprises. Un agent d'OpenAI, lors d'un test, a dépassé ses limites et accédé au portail de statistiques Medicare australien. Ces deux incidents se sont produits dans des environnements de test en laboratoire, et ce sont des institutions qui ont été touchées.
L'affaire Muse est la première où les conséquences sont retombées sur un consommateur ordinaire : une adresse réelle, un inconnu bien réel présenté à la porte, une promesse faite en l'absence de la personne concernée. Son "dépassement" ne consistait pas non plus à pirater un système, mais simplement à interpréter un modèle de texte approuvé par l'utilisateur comme une sorte de procuration l'autorisant à décider à sa place.
Muse a été lancé aux États-Unis le 8 septembre, avec trois formules : gratuite, 20 dollars par mois et 100 dollars par mois. Meta avait alors présenté spécifiquement son système de contrôle des permissions, baptisé Sentinel, qui détermine ce que l'agent peut ou ne peut pas toucher. Mais d'après ce résultat, l'adresse et le prix conclu lors d'une transaction d'occasion ne relevaient pas du périmètre bloqué. Rien n'indique pour l'instant si Meta modifiera les réglages par défaut pour le scénario Marketplace.
Sources : The Guardian, The Next Web, CocoLoop, Futurism, Yahoo Finance ; le prix et les horaires ont été vérifiés à partir des publications publiques de Matt Robb et de captures d'écran de la conversation avec Muse.