La plataforma de inferencia de modelos de código abierto Fireworks confirmó el lunes que ha sufrido una nueva intrusión, en la que se filtraron datos de facturación, pesos de modelos y datasets de algunos clientes. Según se ha informado, la semana pasada la compañía ya había comunicado el incidente, más grave que el de octubre, a grandes clientes como Harvey, y ahora lo investiga junto con Unit 42, de la empresa de ciberseguridad Palo Alto Networks.
Un portavoz de Fireworks afirmó que la compañía “se toma muy en serio el incidente”, está en contacto directo con los clientes y trabaja con Unit 42 para analizar el problema y reforzar los sistemas. Un portavoz de Harvey, la empresa de IA jurídica, indicó que el incidente no ha afectado a los datos de los clientes de Harvey.
Notion, Vercel y Cursor usan los servicios de Fireworks. Por ahora no está claro si ellas, o los datos de sus usuarios finales, se han visto afectadas; ninguna de las tres se ha pronunciado públicamente.
La segunda vez en un mes
Si se ordena la cronología, es la segunda vez en un mes que Fireworks sufre un incidente.
El 6 de octubre, Fireworks detectó que alguien había usado credenciales internas de la empresa para leer las variables de entorno de tareas de evaluación en un “número limitado” de cuentas de clientes, entre ellas claves de API y tokens de terceros almacenados como secretos. La noche del 9 de octubre publicó un aviso de seguridad; al día siguiente revocó un lote de claves de API de usuarios y rotó los tokens de las cuentas de servicio. El aviso de entonces fue muy claro:
“we have not detected evidence of unauthorized access to customer models, datasets, training data”
(No hemos detectado indicios de acceso no autorizado a modelos, datasets ni datos de entrenamiento de clientes.)
Un mes después, los pesos de modelos y los datasets aparecen en la lista de lo filtrado. Fireworks dice que por ahora no puede determinar si ambos incidentes están relacionados. La página de su aviso de octubre se quedó en la actualización del 10 de octubre, con el estado “monitorización continua”, y al cierre de esta nota no se había añadido nada sobre el incidente de noviembre.
No es solo una plataforma
Cuando ocurrió la intrusión de octubre, Fireworks no estaba sola. En su informe del 30 de octubre, la empresa de seguridad en la nube Wiz llamó a esta oleada el “Octubre Negro” de las plataformas para desarrolladores de IA: la lista inicial incluía 9, entre ellas Fireworks, Railway, Warp y Lightning AI; en la actualización del 10 de noviembre el número ya había subido a 16 plataformas que han divulgado incidentes de seguridad, entre ellas Brev, de NVIDIA.
El rasgo común que resume Wiz es que los atacantes rastrean las variables de entorno en busca de claves, sobre todo de las que permiten llamar a servicios de IA. Una vez que las obtienen, primero lanzan una petición para comprobar que funcionan, luego las usan a gran escala mediante un grupo de proxies y, por último, las monetizan en canales de reventa. En el sector, esta práctica de aprovecharse de la cuota de modelos de lenguaje ajena se conoce como secuestro de LLM (LLM hijacking). En un caso citado por Wiz, una clave filtrada recibió unas 800.000 llamadas en unas 30 horas; en otro, hubo 1,7 millones de llamadas en unas 13 horas, y a precio de lista los dos casos juntos podrían superar los 100.000 dólares.
Según se ha informado, Unit 42 considera que el ataque contra Fireworks está vinculado a un grupo de ciberdelincuentes dedicado al secuestro de LLM. Esta afirmación solo aparece por ahora en medios; Unit 42 no ha publicado ningún informe y tampoco ha dicho de qué grupo se trata.
Una ronda de financiación que choca con un incidente de seguridad
El momento no podría ser peor para Fireworks. La compañía, fundada en 2022, alcanzó en julio unos ingresos anualizados de 1.000 millones de dólares y una valoración de 17.500 millones; según fuentes conocedoras del asunto, tenía previsto iniciar esta semana una nueva ronda de financiación con una valoración objetivo de al menos 30.000 millones de dólares.
También según esas fuentes, algunos grandes clientes que gastan varios millones de dólares al año en la plataforma estudian marcharse. Fireworks no ha respondido si la ronda se aplaza ni cuántos clientes se van a ir realmente; esta información no se puede verificar por ahora.
Para los usuarios, la recomendación del aviso de octubre de Fireworks sigue vigente: borrar una clave almacenada en Fireworks no hace que la clave deje de ser válida. Hay que acudir al proveedor correspondiente para rotar las credenciales de terceros y, después, revisar los registros de acceso de esas credenciales.
Fuentes: Sina Finance, aviso de seguridad de Fireworks, CocoLoop, informe de investigación de seguridad de Wiz; se verificaron el alcance de la filtración en ambos incidentes, el número de plataformas afectadas y el número de llamadas con claves usadas de forma indebida; las cifras de ingresos y valoración siguen lo publicado en los medios.