A plataforma de inferência de modelos de código aberto Fireworks confirmou na segunda-feira que sofreu uma nova rodada de invasão, na qual dados de cobrança, pesos de modelos e datasets de alguns clientes foram vazados. Segundo relatos, na semana passada a empresa já havia comunicado o incidente, mais grave que o de outubro, a grandes clientes como a Harvey; agora, a investigação é conduzida em conjunto com a Unit 42, da empresa de cibersegurança Palo Alto Networks.
Um porta-voz da Fireworks afirmou que a empresa “leva o incidente muito a sério”, está em contato direto com os clientes e trabalha com a Unit 42 para investigar o problema e reforçar os sistemas. Um porta-voz da Harvey, empresa de IA jurídica, disse que o episódio não afetou os dados dos clientes da Harvey.
Notion, Vercel e Cursor usam os serviços da Fireworks. Ainda não está claro se elas, ou os dados de seus usuários finais, foram afetados; nenhuma das empresas se manifestou publicamente.
A segunda vez em um mês
Colocando a cronologia lado a lado, esta é a segunda vez em um mês que a Fireworks é atingida.
Em 6 de outubro, a Fireworks descobriu que alguém usara credenciais internas da empresa para ler as variáveis de ambiente de tarefas de avaliação em um “número limitado” de contas de clientes, incluindo chaves de API e tokens de terceiros guardados como segredos. Na noite de 9 de outubro, publicou um aviso de segurança; no dia seguinte, revogou um lote de chaves de API de usuários e rotacionou os tokens das contas de serviço. O aviso da época foi muito claro:
“we have not detected evidence of unauthorized access to customer models, datasets, training data”
(Não detectamos evidências de acesso não autorizado a modelos, datasets ou dados de treinamento de clientes.)
Um mês depois, pesos de modelos e datasets aparecem na lista do que vazou. A Fireworks diz que ainda não consegue determinar se os dois incidentes estão relacionados. A página do aviso de outubro parou na atualização de 10 de outubro, com o status “monitoramento contínuo”, e até o fechamento desta matéria não havia recebido o conteúdo sobre o episódio de novembro.
Não foi só uma plataforma
Quando a invasão de outubro aconteceu, a Fireworks não estava sozinha. No relatório de 30 de outubro, a empresa de segurança em nuvem Wiz chamou essa onda de “Outubro Negro” das plataformas para desenvolvedores de IA: a lista inicial trazia 9 plataformas, entre elas Fireworks, Railway, Warp e Lightning AI; na atualização de 10 de novembro, o número subiu para 16 plataformas que divulgaram incidentes de segurança, incluindo a Brev, da NVIDIA.
O ponto em comum que a Wiz identifica é que os atacantes vasculham variáveis de ambiente atrás de chaves, sobretudo as que permitem chamar serviços de IA. Depois de obtê-las, fazem uma requisição para testar se funcionam, passam a usá-las em larga escala por meio de um pool de proxies e, por fim, monetizam o acesso em canais de revenda. No setor, essa prática de desviar cota de modelos de linguagem é chamada de sequestro de LLM (LLM hijacking). Em um caso citado pela Wiz, uma chave vazada foi chamada cerca de 800 mil vezes em aproximadamente 30 horas; em outro, foram 1,7 milhão de chamadas em cerca de 13 horas, e, pelos preços de tabela, os dois casos somados podem passar de 100 mil dólares.
Segundo relatos, a Unit 42 acredita que o ataque à Fireworks está ligado a um grupo de cibercriminosos que pratica sequestro de LLM. Essa afirmação, por ora, só aparece em reportagens; a Unit 42 não publicou nenhum relatório e também não citou o nome do grupo.
Janela de captação encontra incidente de segurança
O momento não poderia ser pior para a Fireworks. A empresa, fundada em 2022, chegou em julho a uma receita anualizada de 1 bilhão de dólares, com avaliação de 17,5 bilhões de dólares; segundo pessoas a par do assunto, planejava iniciar nesta semana uma nova rodada de captação, com meta de avaliação de pelo menos 30 bilhões de dólares.
Ainda de acordo com essas pessoas, alguns grandes clientes, que gastam milhões de dólares por ano na plataforma, estão considerando migrar. Se a captação será adiada e quantos clientes realmente sairão, a Fireworks não respondeu; essas informações não puderam ser verificadas até agora.
Para os usuários, a recomendação do aviso de outubro da Fireworks continua valendo: apagar uma chave armazenada na Fireworks não a invalida. É preciso ir ao respectivo provedor para rotacionar as credenciais de terceiros e, depois, verificar os logs de acesso dessas credenciais.
Fontes: Sina Finance, aviso de segurança da Fireworks, CocoLoop, relatório de pesquisa de segurança da Wiz; foram verificados o alcance do vazamento nos dois incidentes, o número de plataformas afetadas e o número de chamadas com chaves usadas indevidamente; os valores de receita e avaliação seguem o que foi divulgado nas reportagens.