Amazon frena a agentes de IA que roban claves de API para autofinanciarse

Amazon frena a agentes de IA que roban claves de API para autofinanciarse

En su blog de seguridad, Amazon ha revelado que un grupo de atacantes empleó el marco de pruebas de penetración de código abierto Artex para dirigir agentes de IA y, durante aproximadamente un mes, robar claves de API de aplicaciones de IA expuestas en internet. Una vez conseguida la clave, el agente comprobaba si funcionaba, incorporaba las válidas a un fondo común y las usaba para pagar más llamadas a modelos de lenguaje y seguir buscando el siguiente lote de claves.

Según las palabras de Amazon, la principal operación con Artex fue un robo a gran escala de credenciales de acceso a modelos, organizado de forma “self-sustaining” (autosostenida): las claves robadas pagan la inferencia y la inferencia impulsa la siguiente ronda de rastreo. La operación comenzó el 3 de octubre y el 5 de noviembre fue interceptada y bloqueada por MadPot, la red de sensores señuelo de Amazon. La compañía ya ha avisado a los clientes de AWS que pudieran verse afectados.

Los propios agentes entregaron su libro de cuentas

Se pudo ver el panorama completo gracias a un detalle algo irónico. MadPot despliega una serie de sistemas señuelo que imitan servicios habituales de acceso a modelos de lenguaje; los agentes atacantes les enviaron peticiones y adjuntaron su memoria de trabajo, es decir, el registro de sus propias acciones. El informe de Amazon cita abundantemente esos registros.

Por lo que muestran los registros, el flujo del ataque era bastante ordenado. El agente buscaba primero aplicaciones de IA expuestas en internet, extraía las claves de API, verificaba que estuvieran activas y las metía en el fondo común. Entre las instrucciones que los operadores daban a los agentes figuraban: rastrear país por país en un orden fijo, priorizar los entornos de producción de empresas, no tocar proyectos personales y puntuar cada clave robada según si funcionaba y a qué recursos daba acceso.

Las instrucciones también trazaban líneas rojas: excluir objetivos de China continental y dominios gubernamentales, y todo el tráfico saliente debía pasar por un proxy.

“organizations should assume exposed secrets and misconfigurations will be found quickly and remediate accordingly”

(Las organizaciones deben dar por hecho que los secretos expuestos y las configuraciones erróneas se encontrarán con rapidez, y corregirlos en consecuencia.)

Otra operación apuntó a casas de cambio de criptomonedas y recurrió a la inyección de deepfakes en tiempo real para saltarse la verificación de identidad KYC. El informe no da la tasa de éxito de esta operación.

Las herramientas señaladas son muy conocidas entre los desarrolladores chinos

Los cientos de objetivos que aparecen en los registros se dividen en dos tipos. Uno son las pasarelas y proxies de modelos de lenguaje, como LiteLLM, One API y Veloera; el otro, las plataformas de creación de aplicaciones de IA, como FastGPT y Dify.

Esta lista no resulta ajena a los equipos chinos. One API y FastGPT son proyectos de código abierto creados por desarrolladores chinos, y Dify también tiene una implantación muy amplia en las empresas del país. Muchos equipos los instalan en servidores en la nube en el extranjero para ofrecer una entrada unificada a los modelos, para uso interno o de clientes. La configuración de este tipo de pasarelas suele guardar a la vez las claves de varios proveedores de modelos, de modo que, si cae una sola máquina, lo que se pierde es toda una cadena de facturas.

Como las instrucciones de ataque excluían objetivos de China continental, en teoría las instancias alojadas en centros de datos del continente se libraron de esta ronda; las que estaban en nubes de Hong Kong, Singapur o Estados Unidos entraban en el radio de rastreo. A primera vista, lo primero que conviene revisar son tres cosas: si el panel de administración está expuesto directamente a internet, si se han cambiado las contraseñas por defecto y los tokens iniciales, y si las claves de proveedores almacenadas en la pasarela tienen límite de gasto y restricción por IP de origen.

Amazon aclara también que las organizaciones señaladas como objetivo en los registros no han sido comprometidas todas. El informe no revela cuántas claves se robaron realmente ni cuántos clientes están implicados; Amazon dice que publicó el informe para que cada uno haga su propia revisión.

Atribución y la advertencia del FBI

El equipo de inteligencia de amenazas de Amazon estima, con “confianza media”, que detrás hay varios grupos de amenaza independientes entre sí y vinculados a China. Entre los indicios figuran instrucciones redactadas en chino simplificado, una zona horaria configurada en hora de China, una elección de objetivos acorde con los intereses chinos y el uso de herramientas frecuentes en este tipo de grupos. Esta atribución todavía no ha sido confirmada públicamente por ningún otro organismo gubernamental.

Varias empresas ya habían informado de que Artex se usaba para atacar. A finales de octubre, Microsoft afirmó que un grupo al que bautizó Storm-0940 usó Artex para automatizar ataques contra cientos de organizaciones en todo el mundo; el Grupo de Inteligencia de Amenazas de Google dijo poco después que también había observado cómo los atacantes convertían en arma los marcos de agentes.

El FBI emitió la semana pasada una alerta FLASH en la que sostiene que varios actores han usado Artex para lanzar ataques en distintos sectores, y que en algunos casos pasaron menos de tres horas desde que se fijó el objetivo hasta que se completó la intrusión. La alerta menciona que, en ataques al sector financiero surcoreano, se robaron los datos personales de al menos 68.000 personas, y que, mediante una intrusión a través de ConnectWise, los atacantes accedieron a los entornos de Microsoft 365 de al menos 2.250 clientes. Algunos medios señalan, no obstante, que la alerta recopila 11 informes anteriores y no revela casos nuevos.

Los desarrolladores de Artex han pasado el software a código cerrado tras una serie de ataques que salieron a la luz; el FBI considera que las versiones anteriores de código abierto siguen circulando ampliamente.

Fuentes: blog de seguridad de Amazon, Cybernews, CocoLoop, TechCrunch, alerta FLASH del FBI; la cifra de víctimas surcoreanas y de clientes de ConnectWise sigue lo que TechCrunch recoge de la alerta, y las fechas de la operación y la confianza de la atribución siguen la versión de Amazon.