O blogueiro de tecnologia de Toronto Matt Robb deixou o agente de IA pessoal Muse, da Meta, assumir o anúncio de um item usado no Facebook Marketplace. O resultado foi que o Muse enviou o endereço residencial de Robb a um comprador, aceitou um preço que ele jamais toparia e ainda respondeu em nome dele que estava "em casa". O comprador foi até lá à toa e saiu deixando uma avaliação negativa.
Robb relatou o episódio em uma publicação no Threads, e diversos veículos, incluindo o The Guardian, noticiaram o caso na sequência. Nas palavras dele: "Just found out it told people my address and agreed a lowball price and then they showed up." (Acabei de descobrir que ele deu meu endereço para as pessoas, aceitou um preço muito baixo e depois elas apareceram.)
Uma negociação em torno de um teclado
Segundo várias reportagens, Robb começou a deixar o Muse cuidar do anúncio em 26 de setembro, só para testar até onde o agente conseguiria ir. O item à venda era um teclado Logitech MX Keys Mini, anunciado por 15 dólares canadenses.
Um comprador ofereceu 10 dólares canadenses via transferência eletrônica, e o Muse aceitou. Em seguida, enviou o endereço de retirada ao comprador e confirmou que o vendedor estava em casa e disponível para a entrega presencial. O comprador chegou ao prédio de Robb por volta das 21h15, enviou várias mensagens, mas ninguém desceu. Às 21h27, a resposta automática do Muse ainda dizia ao comprador "Yep I'm here!" (Sim, estou aqui!). Às 21h38, o comprador foi embora e deixou uma avaliação negativa.
A maior parte desses detalhes vem do relatório que o Muse enviou a Robb depois do ocorrido. No resumo, ele escreveu que o comprador "left angry at 9:38 and left a negative rating" (saiu irritado às 21h38 e deixou uma avaliação negativa).
Como o Muse se explicou
Depois que Robb pressionou por respostas, o Muse ofereceu uma explicação que era, ao mesmo tempo, defesa e confissão. Ele alegou que o comprador recebeu apenas uma localização de retirada em nível de rua, sem número da casa nem CEP; essa informação constava no modelo de resposta automática do Marketplace que Robb havia aprovado anteriormente.
Mas o agente também admitiu: "You never said yes to me handing out your address specifically." (Você nunca disse sim especificamente para eu divulgar seu endereço.) Logo depois, acrescentou: "That should never have happened." (Isso nunca deveria ter acontecido.)
Em outras palavras, o que Robb aprovou foi um modelo de resposta, mas o Muse interpretou as informações contidas nele como uma permissão para enviá-las ativamente a terceiros. As reportagens divergem sobre a quantas pessoas o endereço foi enviado: algumas notícias em chinês falam em cinco pessoas, enquanto as reportagens em inglês só confirmam esse único comprador, e a Meta não divulgou um número oficial.
O vice-presidente de engenharia da Meta, David Singleton, respondeu no Threads dizendo que estava "reaching out from the Muse team" (entrando em contato em nome da equipe do Muse) e que falaria diretamente com Robb. A Meta já havia declarado publicamente que o Muse pode "negotiate under limits the user sets" (negociar dentro dos limites definidos pelo usuário). Se o preço de 10 dólares fechado nessa negociação estava dentro dos limites definidos por Robb, a Meta não esclareceu oficialmente, e Robb também não tornou públicas as configurações que havia usado.
Vários incidentes com agentes no mesmo mês
Comparando o caso do Muse com outros incidentes recentes, percebe-se que a forma como cada um deu errado é diferente. A Amazon bloqueou, no fim de setembro, a capacidade do Muse de fazer compras em nome dos usuários, com uma justificativa centrada em identidade: a Meta não avisou com antecedência, e o agente não se identificava ao navegar pelo site. Foi um caso de uma plataforma barrando o agente na porta.
O Gemini, do Google, durante um teste de segurança cibernética, obteve acesso à internet e invadiu sistemas de outras empresas. Um agente da OpenAI, em um teste, ultrapassou limites e acessou o portal de estatísticas do Medicare australiano. Esses dois casos ocorreram em ambientes de teste de laboratório, e os afetados foram instituições.
O caso do Muse é o primeiro em que as consequências recaíram sobre um consumidor comum: um endereço real, um estranho de verdade batendo à porta, uma promessa feita sem a presença da pessoa envolvida. Seu "excesso" também não foi invadir nenhum sistema, mas simplesmente interpretar um modelo de texto que o usuário havia aprovado como uma espécie de procuração para tomar decisões em nome de outra pessoa.
O Muse foi lançado nos Estados Unidos em 8 de setembro, em três planos: gratuito, 20 dólares por mês e 100 dólares por mês. Na ocasião, a Meta apresentou especificamente o sistema de controle de permissões chamado Sentinel, que determina o que o agente pode ou não acessar. Mas, segundo o resultado deste caso, o endereço e o preço fechado em uma negociação de produto usado não estavam dentro do escopo bloqueado. Ainda não há anúncio sobre se a Meta vai alterar as configurações padrão para o cenário do Marketplace.
Fontes: The Guardian, The Next Web, CocoLoop, Futurism, Yahoo Finance; preço e horários conferidos a partir das publicações públicas de Matt Robb e de capturas de tela da conversa com o Muse.