Em 2 de novembro, a revista WIRED publicou uma investigação segundo a qual cerca de 400 apps e sites interligados, que aparentam ser retratos de animais de estimação, ferramentas de idiomas ou personal trainers de IA, carregam em determinadas condições uma segunda interface que permite enviar fotos de outras pessoas para gerar imagens e vídeos explícitos. Esses conteúdos são deepfakes de abuso sexual sem consentimento, e parte deles envolve violência.
A pista inicial veio de anúncios em vídeo no Facebook e no Instagram. Pesquisadores rastrearam milhares de anúncios explícitos e descobriram que eles levavam a apps nas lojas da Apple e do Google, com pagamento via Apple Pay e Google Pay.
A troca só acontece depois da aprovação
De acordo com a reportagem, a cada download o app envia ao servidor informações como a origem do usuário, o idioma e um identificador único, e o servidor decide se mostra a versão comum ou a explícita. Clicar em um dos anúncios da Meta e baixar o app parece ser uma das condições de ativação, mas as regras exatas não são claras.
A Apple chama essa tática de “bait-and-switch”: o desenvolvedor troca a origem do conteúdo depois que o app foi aprovado. O revisor vê um app de retratos de pets, enquanto o usuário pagante pode ver algo completamente diferente.
Entre os exemplos citados, o Viefur se apresenta como app de “retrato de pets” e vende 130 moedas por cerca de 4 dólares; o DiffAI foi criado em dezembro de 2025 e tem mais de 100 mil downloads no Google Play.
Os números sobre a escala vêm de várias instituições de pesquisa:
- AI Forensics: em setembro ainda havia 27 apps relacionados no Google Play, com mais de 350 mil downloads somados, muitos classificados como adequados para todas as idades; neste ano houve dezenas de milhares de anúncios explícitos ligados à rede; no auge, cerca de 30 sites eram registrados por semana
- Infoblox: identificou quase 500 domínios associados, que, segundo os pesquisadores, “rodam o mesmo código e se referenciam entre si”
O pesquisador Paul Bouchaud, da AI Forensics, avalia:
“This is an organized, commercially run operation: One operator behind hundreds of disposable apps and domains”
(Trata-se de uma operação organizada e comercial: um único operador por trás de centenas de apps e domínios descartáveis.)
A resposta das plataformas
A Apple removeu 19 apps depois que a WIRED forneceu as pistas e disse ter atualizado suas regras para restringir ainda mais esse tipo de ferramenta. O Google não respondeu ao pedido de comentário, mas já havia removido a maioria desses apps antes de os repórteres entrarem em contato.
Ao receber a lista de domínios, a Meta primeiro confirmou mais de 3.000 anúncios relacionados, dos quais cerca de dois terços foram excluídos; depois afirmou ter tomado medidas contra 11.600 contas de anúncios, mais de 4.700 páginas comerciais, 5.200 usuários e 15.000 páginas, além de impedir 209 apps de veicular anúncios. Segundo a reportagem, os anúncios já motivaram investigações de reguladores de vários países. A organização sem fins lucrativos americana Tech Transparency Project também já havia encontrado anúncios de deepfake que retratavam menores de idade.
Pistas que apontam para desenvolvedores chineses
Para o leitor chinês, o trecho mais difícil de ignorar é a identidade dos operadores. A WIRED e os pesquisadores se baseiam em um conjunto de evidências indiretas: muitos comentários em chinês no código, uso exclusivo de hospedagem na China, marcas d’água de um software de edição de vídeo chinês nos anúncios e dados de contato, página de login do painel administrativo e alguns e-mails do primeiro site registrado que apontam para uma empresa registrada em Hong Kong, a KeLing Technology Limited.
Trata-se de avaliações da investigação, e a redação da WIRED também deixa margem para dúvida. A empresa não respondeu ao pedido de comentário, e informações públicas relacionadas foram alteradas ou apagadas depois que os repórteres perguntaram. A Meta afirma que a empresa já estava proibida de veicular anúncios em 2025. A grafia em inglês do nome da empresa é diferente da do modelo de vídeo Kling, da Kuaishou, e a reportagem não menciona nenhuma relação entre os dois; o leitor não deve confundi-los.
O veículo dinamarquês DR já havia noticiado parte do caso em setembro. Até agora, a reportagem não menciona abertura de inquérito por autoridades nem sanções sistemáticas por parte das lojas, e nenhuma instituição apresentou números atualizados sobre quantos apps da rede ainda estão no ar.
Fontes: revista WIRED, AI Forensics, CocoLoop, Infoblox; os números das medidas das plataformas seguem as informações fornecidas por Apple e Meta à imprensa, e a identidade dos operadores é uma avaliação da investigação.