Serviço de destilação do Gemini entra em preview, só roda em uma região

O Google Cloud colocou seu serviço de destilação do Gemini em fase de preview. O serviço pega as respostas e o processo de raciocínio de um modelo grande para treinar um modelo menor, com o objetivo de reduzir latência e custo de chamadas de API. Durante o acesso antecipado, os modelos professor e aluno não podem ser escolhidos: o professor é fixo em gemini-3.1-pro, o aluno é fixo em gemini-2.5-flash.

As barreiras já aparecem de início. O ID do projeto precisa antes constar em uma lista de permissões, e a documentação orienta o usuário a contatar seu representante de vendas do Google para solicitar acesso; as tarefas de destilação são obrigadas a rodar na região us-central1, sem segunda opção.

Os requisitos do conjunto de dados estão bem detalhados

Os dados de treinamento são conjuntos de prompts em JSONL armazenados no Cloud Storage. Em cada registro, o campo contents é obrigatório e traz a entrada do lado do usuário; systemInstruction é opcional e serve para o prompt de sistema. Conversas de múltiplos turnos alternam entre user e model.

Em termos de escala, a documentação recomenda no mínimo 1.000 amostras, com teto rígido de 50 mil; o arquivo JSONL de origem não pode passar de 1 GB; a entrada de cada registro tem limite de 8.000 tokens, e a saída do modelo professor, de 24.000 tokens. Todo o serviço aceita apenas texto puro, entradas multimodais não são suportadas.

Sobre preço e cotas, a documentação não diz uma palavra. O serviço está atualmente sob termos de pré-GA, e o próprio Google sinaliza que não é recomendado para uso em produção.

Quatro etapas reunidas em um único job

Destilação é uma técnica antiga; antes, para fazê-la, era preciso montar todo um pipeline: acionar o modelo professor para gerar respostas em lote, limpar e remover duplicatas, usar esses dados para ajustar (fine-tuning) o modelo aluno e depois rodar uma rodada de avaliação. Cada uma dessas quatro etapas exigia código próprio e gestão própria de capacidade computacional. O serviço gerenciado reúne tudo isso em um único job, e o usuário só precisa enviar o conjunto de prompts.

O que se economiza é esforço de engenharia; o que se perde é liberdade de escolha. Professor e aluno ficam travados em modelos específicos, o que significa que o usuário não pode usar um professor mais caro para melhorar o resultado, nem despejar a saída em um modelo pequeno de arquitetura personalizada. Já a restrição de região a us-central1 fixa diretamente onde os dados residem — para quem tem exigências de conformidade, isso pesa mais do que o próprio recurso.

A mesma palavra, dois tratamentos diferentes

“Destilação” é um termo que, nos últimos dois anos, ganhou um contexto complicado entre China e Estados Unidos. Três órgãos americanos citaram nominalmente, neste ano, seis empresas chinesas por destilar modelos americanos; a Anthropic também mencionou em relatório chamadas em grande escala feitas por empresas como a Alibaba. Nesses contextos, a destilação foi tratada como uma conduta que exige responsabilização.

A diferença está nos termos contratuais, não no ato técnico em si. No serviço do Google, professor e aluno são ambos modelos da própria empresa, o usuário roda seu próprio conjunto de prompts, e o modelo aluno resultante atende à mesma conta, tudo dentro do escopo autorizado. A destilação entre fornecedores diferentes — usar a saída da API de outra empresa para treinar o próprio modelo — costuma ser explicitamente proibida pelos termos de serviço. A mesma sequência de operações, dentro da autorização é um recurso de produto; fora dela, é quebra de contrato ou até material para litígio.

Para desenvolvedores na China, a utilidade prática desse serviço é praticamente nula. A lista de permissões exige passar pelo time de vendas, e a região está travada em us-central1 — duas barreiras sobrepostas que deixam a maioria dos projetos da região chinesa de fora. O que dá para aproveitar é o conjunto de parâmetros divulgado: a partir de 1.000, teto de 50 mil, entrada de 8.000 tokens — essa é a referência técnica que o próprio Google estabelece para “quanto dado uma destilação precisa”, e equipes fazendo trabalho semelhante podem usá-la como régua.

As lacunas do período de preview

Data de disponibilidade geral (GA), preço e teto de cotas: nenhum dos três está definido ainda. Se a lista de modelos professor e aluno vai se expandir, a documentação também não diz. Até que essas informações sejam preenchidas, o serviço se parece mais com um canal de teste interno aberto a grandes clientes que já usam o Gemini Enterprise do que com uma ferramenta que já pode entrar no planejamento.

Fontes: documentação oficial do Google Cloud, CocoLoop; versões dos modelos professor e aluno, restrição de região, campos do conjunto de dados e todos os limites foram conferidos linha a linha com o documento original.