Ariel Simon, vicepresidente de investigación de la firma de seguridad Vigilance Security, publicó un estudio que bautizó como "Dark Sourcery" a un ataque en curso. Los atacantes siembran en masa publicaciones, PDFs, reseñas y páginas de soporte falsas optimizadas en internet, de modo que ChatGPT, Google Gemini y el resumen generado por IA (AI Overview) de la Búsqueda de Google, al preguntarles por el contacto de una empresa, devuelven números de teléfono fraudulentos, correos fraudulentos y páginas de inicio de sesión de phishing. Los investigadores contabilizaron al menos 374 marcas afectadas.
La investigación se publicó primero en Medium y luego fue recogida por medios de seguridad y tecnología como Dark Reading y GIGAZINE.
Las marcas suplantadas son las que uno busca cuando necesita ayuda humana urgente
Las empresas que menciona el informe se concentran en aerolíneas, bancos y plataformas de viaje: Delta Air Lines, Lufthansa, Qatar Airways, Chase (de JPMorgan), Bank of America, Airbnb, TripAdvisor. Lo que tienen en común es que, cuando el usuario las contacta, suele estar con prisa: hay que reprogramar un vuelo, la cuenta quedó bloqueada, un pedido está en disputa. Es justo en ese momento cuando es más fácil preguntarle a la IA "¿cuál es el teléfono de soporte?".
Los investigadores llegaron a llamar a algunos de esos números. Según Dark Reading, quien contestaba se mostraba dispuesto a ayudar a reprogramar vuelos o desbloquear cuentas bancarias, y después empezaba a pedir los datos de la tarjeta de crédito. Otros usuarios reportaron que, tras contactar el número de soporte que les dio la IA, les robaron los datos de pago y de la tarjeta.
Tres formas de envenenar las fuentes
Según el informe, los atacantes no tocan el modelo en sí, sino que apuntan a las fuentes en las que este confía:
- Insertar contenido con números falsos en sitios web de gobiernos y universidades comprometidos, aprovechando la autoridad de esos dominios;
- Publicar videos y escribir reseñas en plataformas de contenido generado por usuarios, como YouTube y Yelp;
- Producir en masa páginas de baja calidad optimizadas específicamente para la forma en que los modelos de lenguaje grandes recuperan y clasifican fuentes.
El resumen de GIGAZINE es que los atacantes mezclan "fuentes con autoridad" y "fuentes de opinión popular", justo lo que la IA usa para juzgar la credibilidad. En palabras del propio Simon:
"Attackers are flooding the web with carefully optimized posts, PDFs, reviews, and fake support pages, to trick AI into presenting fraudulent phone numbers, email addresses, and login pages."
El informe también cita una encuesta de agosto de Exploding Topics: entre las personas que usan chatbots de IA, el 91% no verifica las respuestas que recibe.
Estafa vieja, puerta de entrada nueva
Los números de soporte falsos son un negocio que lleva años existiendo. Antes, los estafadores se hacían pasar por aerolíneas y bancos en anuncios de búsqueda y fichas de negocio en mapas; los buscadores respondían con revisión de anuncios y verificación de empresas, y el usuario al menos veía una lista de enlaces y podía saber de qué sitio venía el número.
El AI Overview escribe el número directamente dentro de una respuesta única que suena completa, y la fuente queda reducida a una pequeña nota al pie que casi nadie hace clic para comprobar. El objetivo que los atacantes necesitan engañar también cambió: de usuarios que revisan resultados de búsqueda a los propios sistemas de recuperación y clasificación, que de por sí favorecen dominios de alta autoridad como los de gobiernos y universidades. Una sola página .edu comprometida puede, a ojos de la IA, pesar más que un montón de sitios normales juntos.
Los investigadores dicen que el ataque sigue activo, que ya se están produciendo pérdidas reales, y que todavía no pueden dimensionar por completo su alcance. Si OpenAI o Google han bloqueado alguno de estos números, la cobertura disponible hasta ahora no lo precisa.
Para el usuario común, la recomendación es sencilla: verificar números de soporte, páginas de pago y accesos de inicio de sesión volviendo al sitio web o la app oficial de la empresa.
Fuentes: informe de investigación de Vigilance Security, CocoLoop, Dark Reading, GIGAZINE, The Hacker News; el número de marcas afectadas y las empresas mencionadas siguen el informe de investigación, y la tasa de verificación sigue la encuesta de Exploding Topics.