Gemini API lança prévia do Tool Retrieval

Em 19 de novembro, o Google lançou na Gemini API a versão em prévia do Tool Retrieval (recuperação de ferramentas). Quando um agente está conectado a dezenas ou centenas de ferramentas, o desenvolvedor não precisa mais incluir em cada requisição o esquema de parâmetros de todas elas: o modelo vê inicialmente apenas o nome e a descrição, busca a definição completa pelo nome quando precisa usar uma ferramenta e, em seguida, emite a chamada de função na mesma requisição.

Por enquanto, o recurso está disponível somente na Interactions API e é compatível com o Gemini 3.6 e versões superiores, incluindo todos os modelos Gemini 4. O ponto de partida que o Google apresenta no blog é direto: quanto mais ferramentas, mais o envio do esquema completo a cada requisição aumenta os tokens de entrada e a latência, e quanto maior o número de candidatas, menor a chance de o modelo escolher a ferramenta certa.

Illustration: only one drawer opens to reveal a wrench, showing how Gemini loads tool definitions on demand.

Duas formas de recuperar

O padrão é a recuperação no servidor. O desenvolvedor adiciona um item {"type": "tool_search"} em tools e marca as ferramentas menos usadas com defer_loading, enquanto as de uso frequente continuam sendo declaradas diretamente. A busca roda nos servidores do Google, sem necessidade de montar nem hospedar um índice próprio. Na depuração, interaction.steps mostra três tipos de etapa, tool_search_call, tool_search_result e function_call, o que ajuda a descobrir se o problema está no nome ou na descrição pouco clara da ferramenta.

A outra opção é a recuperação no cliente: ao declarar tool_search com "execution": "client", depois que o modelo emite a solicitação de busca, é a própria aplicação que consulta o seu registro de ferramentas e devolve os esquemas correspondentes como resultado de função. Isso custa uma ida e volta a mais a cada busca, mas em troca as ferramentas não precisam ser declaradas de antemão, novas ferramentas podem ser adicionadas no meio da conversa, é possível filtrar por permissões do usuário e também integrar um índice vetorial próprio.

Servidores MCP remotos também são cobertos: definindo defer_loading: true na ferramenta mcp_server, todas as ferramentas expostas por esse servidor passam a ser carregadas sob demanda. O Google também menciona que os esquemas de carregamento adiado não ficam no início do prompt; os carregados depois são anexados mais adiante na conversa, de modo que o cache de prefixo entre os turnos não é invalidado.

"Tool Retrieval has no separate charge. Input and output tokens are billed at the standard rates for the model you call."

(O Tool Retrieval não tem cobrança separada. Os tokens de entrada e de saída são cobrados pelas tarifas padrão do modelo chamado.)

Economizar ou não depende do tamanho do catálogo de ferramentas

Ativar o tool_search acrescenta um pequeno bloco fixo de tokens de entrada, cujo tamanho o blog não informa; cada esquema que o modelo carrega passa a ser cobrado como entrada no restante da conversa, igual a uma ferramenta declarada antecipadamente. Segundo o Google, só há economia de tokens quando os esquemas não carregados superam os carregados, o que normalmente ocorre em catálogos grandes, e a empresa recomenda que os desenvolvedores testem com o próprio tráfego real. Por outro lado, para aplicações com poucas ferramentas, ou que usam a maior parte delas a cada turno, ativar o recurso pode não compensar.

A mesma ideia, mas a Anthropic saiu na frente

Essa abordagem a plataforma para desenvolvedores do Claude já lançou em novembro do ano passado. A Anthropic a chama de Tool Search Tool, o parâmetro de carregamento adiado também se chama defer_loading, e os servidores MCP também entram no carregamento sob demanda. A diferença entre as duas empresas está nas evidências apresentadas: a Anthropic divulgou na ocasião a economia de tokens e a precisão na escolha de ferramentas medidas em testes internos, enquanto o Google desta vez falou apenas do mecanismo e da cobrança, sem nenhum dado de eficácia.

Para equipes que já constroem agentes com as interfaces do Claude ou da OpenAI, a barreira desta vez está sobretudo na própria interface. O Tool Retrieval só está disponível na Interactions API, e projetos Gemini que ainda estão na interface antiga precisam migrar antes de ativá-lo. As cotas e os limites de taxa após o fim do período de prévia também ainda não foram divulgados pelo Google.

Fontes: blog para desenvolvedores do Google, CocoLoop, documentação de Tool Retrieval do Google AI Studio, documentação para desenvolvedores da Anthropic; foram verificadas as versões de modelo compatíveis, os dois modos de busca, o carregamento adiado com MCP e as regras de cobrança.