A Together AI publicou em 21 de novembro um comunicado de segurança assinado pelo CEO e cofundador Vipul Ved Prakash. Segundo o texto, parte dos prompts enviados em junho e julho deste ano ao serviço de inferência serverless da empresa foi baixada por pessoas não autorizadas. A origem foi uma credencial de acesso: ao usar um agente de programação com IA para desenvolver um repositório de código público, a empresa viu o agente enviar essa credencial junto com o código.

Como uma única credencial vazou
De acordo com o comunicado, a Together costuma coletar uma parte das requisições dos usuários para testes de software. Essas amostras ficam em um repositório privado no Hugging Face, e a empresa afirma que esse uso é autorizado. As amostras vêm de requisições enviadas ao MiniMax M3, ao GLM-5.2 e ao Kimi K2.6, concentradas principalmente em 24 de junho e em 4, 8 e 14 de julho.
O problema ocorreu em outro ponto. A Together mantém no GitHub um repositório público chamado xorl. Durante o desenvolvimento, o código enviado por um agente de programação com IA incluiu a credencial que dava acesso ao repositório privado. Uma varredura automática a detectou, e a Together reverteu o envio. Mas, na janela em que a credencial ficou exposta, alguém já a havia obtido e baixado as amostras de prompts armazenadas.
Em seguida, essa pessoa fez duas coisas: procurou nas amostras credenciais de outros serviços e testou uma a uma para ver se funcionavam. O alvo eram as chaves, senhas e tokens que os usuários haviam escrito em seus prompts.
Cinco credenciais-isca
O comunicado traz um detalhe importante: entre as credenciais testadas, 5 eram credenciais “canário”, parte de um experimento da empresa de segurança Dragos.
O experimento acabou de ser noticiado pela Ars Technica. O diretor de pesquisa da Dragos, HD Moore, inseriu em prompts quase 2 milhões de chaves e links falsos com marcadores de rastreamento, cada um enviado a um único provedor, e depois observou quais eram acessados. O resultado, segundo ele: requisições de pelo menos três provedores de hospedagem de inferência foram copiadas, e as chaves AWS falsas foram usadas dezenas de milhares de vezes. O e-mail de alerta que a OpenRouter enviou a usuários sobre os modelos MiniMax também citava essa pesquisa.
O comunicado não diz se a Together é um dos três provedores mencionados por Moore, e isso não pode ser confirmado com informações públicas no momento. O único ponto que coincide é que as iscas de Moore apareceram nas amostras baixadas da Together e foram testadas.
We have no reason to believe the unauthorized party has leaked this data further.
Em tradução livre: não temos motivo para acreditar que a parte não autorizada tenha vazado esses dados adiante.
A Together também diz acreditar que os dados foram excluídos. Quem verificou a exclusão e como isso foi feito, o comunicado não explica.
Os números que ficaram de fora
O comunicado informa datas e nomes de modelos, mas não a escala. Não há indicação de quantos prompts foram afetados, quantos clientes estão envolvidos, por quanto tempo a credencial ficou no repositório público nem em que dia o envio foi revertido. Se as amostras contêm informações pessoais sensíveis, a Together diz que ainda está analisando, e os clientes que precisarem ser notificados serão contatados individualmente. A empresa contratou uma firma externa de perícia forense e acionou as autoridades policiais.
A lista de correções tem quatro itens:
- passar as credenciais para escopo limitado ou validade curta, e dispensar chaves sempre que possível;
- submeter todos os pull requests a uma verificação de credenciais;
- ativar por padrão a retenção zero de dados nas contas novas;
- atualizar o fluxo de desenvolvimento que usa agentes de programação com IA.
As contas antigas não foram migradas automaticamente. O comunicado apenas recomenda que clientes que lidam com dados sensíveis ativem a opção por conta própria nas configurações.
Lado a lado com o e-mail da OpenRouter
Em poucos dias, dois provedores de inferência tiveram de prestar contas aos usuários por causa da mesma pesquisa, e a forma de lidar com o caso foi bem diferente.
A OpenRouter enviou e-mail apenas a alguns usuários, sem página pública, apontou a responsabilidade para a MiniMax, a montante, e para os provedores que repassam as requisições, e retirou o rótulo de retenção zero dos endpoints envolvidos. A Together publicou um post público no blog assinado pelo CEO, admitiu que o problema estava no próprio processo de desenvolvimento e mudou a configuração padrão das contas novas.
A natureza dos dois casos também difere. No caso da OpenRouter, um link dentro de um prompt foi acessado dezenas de horas depois do envio da requisição, e a identidade de quem acessou continua desconhecida. No caso da Together há uma porta de entrada clara: uma credencial gravada por um agente em um repositório público e um autor de download que procurava especificamente chaves.
Os três modelos correspondentes às amostras baixadas são todos de empresas chinesas. Equipes chinesas que criam produtos para o exterior costumam chamar modelos chineses por meio de provedores de hospedagem estrangeiros como a Together. Quem usou esses três modelos em junho e julho e já montou strings de conexão de banco de dados ou tokens de API em prompts faz bem em trocar as credenciais primeiro, sem esperar o contato individual da Together.
Há ainda a camada do próprio agente de programação. Enviar chaves a um repositório público é um erro comum também entre engenheiros humanos, e a ferramenta de varredura de fato o detectou desta vez. Quanto tempo durou a janela antes da detecção, a Together não divulgou; qual agente de programação foi o responsável, o comunicado também não informa.
Fontes: comunicado oficial de segurança da Together AI, CocoLoop, Ars Technica; o comunicado da Together confirma os modelos afetados, os quatro dias de concentração das amostras e as quatro correções, e a Ars Technica confirma a escala das iscas no experimento da Dragos e o número de provedores de hospedagem invadidos.