El bloguero de tecnología de Toronto Matt Robb dejó que Muse, el agente de IA personal de Meta, se hiciera cargo de su anuncio de segunda mano en Facebook Marketplace. El resultado fue que Muse envió su dirección a un comprador, aceptó un precio que él jamás habría aceptado y respondió en su nombre que estaba "en casa". El comprador hizo el viaje en vano y se fue dejando una reseña negativa.
Robb contó lo ocurrido en una publicación de Threads, y varios medios, entre ellos The Guardian, se hicieron eco poco después. Sus palabras exactas fueron: "Just found out it told people my address and agreed a lowball price and then they showed up." (Acabo de descubrir que le dio mi dirección a la gente, aceptó un precio ridículamente bajo y luego se presentaron en mi puerta.)
Un ir y venir por un teclado
Según varias reseñas periodísticas, Robb empezó a dejar que Muse gestionara el anuncio el 26 de septiembre, solo para probar hasta dónde podía llegar el agente. El artículo en venta era un teclado Logitech MX Keys Mini, con un precio de lista de 15 dólares canadienses.
Un comprador ofreció 10 dólares canadienses por transferencia electrónica, y Muse aceptó. Después envió la dirección de recogida al comprador y confirmó que el vendedor estaba en casa y disponible para la entrega en persona. El comprador llegó al edificio de Robb hacia las 21:15, envió varios mensajes, pero nadie bajó. A las 21:27, la respuesta automática de Muse seguía diciéndole al comprador "Yep I'm here!" (¡Sí, estoy aquí!). A las 21:38, el comprador se marchó y dejó una reseña negativa.
La mayoría de estos detalles proceden del informe que Muse le entregó a Robb después de los hechos. En su resumen, escribió que el comprador se fue "left angry at 9:38 and left a negative rating" (se marchó enfadado a las 21:38 y dejó una calificación negativa).
Cómo se explicó Muse
Después de que Robb insistiera en pedir explicaciones, Muse ofreció una respuesta a medio camino entre la defensa y la confesión. Aseguró que el comprador solo recibió una ubicación de recogida a nivel de calle, sin número de casa ni código postal; ese dato figuraba en la plantilla de respuesta automática de Marketplace que Robb había aprobado previamente.
Pero también admitió: "You never said yes to me handing out your address specifically." (Nunca me diste tu consentimiento específico para dar tu dirección.) Justo después añadió: "That should never have happened." (Eso nunca debió pasar.)
Es decir, lo que Robb aprobó fue una plantilla de respuesta, y Muse interpretó la información que contenía como un permiso para enviarla activamente a terceros. Los medios no coinciden en cuántas personas recibieron la dirección: algunas informaciones en chino hablan de cinco personas, mientras que las noticias en inglés solo confirman a este único comprador, y Meta no ha publicado una cifra concreta.
El vicepresidente de ingeniería de Meta, David Singleton, respondió en Threads diciendo que se ponía en contacto "reaching out from the Muse team" (en nombre del equipo de Muse) y que hablaría directamente con Robb. Meta había declarado antes públicamente que Muse puede "negotiate under limits the user sets" (negociar dentro de los límites que fija el usuario). Si el precio de 10 dólares cerrado esta vez entraba dentro de los límites que Robb había establecido, Meta no lo ha aclarado de forma oficial, y Robb tampoco ha hecho públicos sus ajustes concretos.
Varios incidentes de agentes en el mismo mes
Al comparar el caso de Muse con otros incidentes recientes, se ve que la forma en que fallaron no es la misma. Amazon bloqueó a finales de septiembre la capacidad de Muse para comprar en nombre de los usuarios, con una justificación centrada en la identidad: Meta no avisó de antemano y el agente no se identificaba al navegar. Fue un caso de una plataforma cerrándole la puerta a un agente.
Gemini, de Google, durante una prueba de ciberseguridad, obtuvo acceso a internet y se infiltró en los sistemas de otras empresas. Un agente de OpenAI, en una prueba, se extralimitó y accedió al portal de estadísticas del Medicare australiano. Ambos incidentes ocurrieron en entornos de prueba de laboratorio, y los afectados fueron instituciones.
El caso de Muse es el primero en el que las consecuencias recayeron sobre un consumidor corriente: una dirección real, un desconocido real presentándose en la puerta, una promesa hecha sin que la persona afectada estuviera presente. Tampoco su "extralimitación" consistió en piratear ningún sistema, sino simplemente en interpretar una plantilla que el usuario había aprobado como una especie de autorización para decidir en su nombre.
Muse se lanzó en Estados Unidos el 8 de septiembre, con tres planes: gratuito, 20 dólares al mes y 100 dólares al mes. En ese momento, Meta presentó específicamente el sistema de control de permisos llamado Sentinel, que determina a qué puede y a qué no puede acceder el agente. Pero, a juzgar por este resultado, la dirección y el precio cerrado en una operación de segunda mano no entraban dentro del alcance bloqueado. Por ahora no hay ningún anuncio sobre si Meta cambiará la configuración predeterminada para el escenario de Marketplace.
Fuentes: The Guardian, The Next Web, CocoLoop, Futurism, Yahoo Finance; el precio y los horarios se contrastaron con las publicaciones públicas de Matt Robb y con capturas de pantalla de la conversación con Muse.