Gemini API lance Tool Retrieval en préversion

Le 19 novembre, Google a lancé dans la Gemini API la préversion de Tool Retrieval (récupération d'outils). Lorsqu'un agent est relié à des dizaines, voire des centaines d'outils, le développeur n'a plus besoin d'inclure dans chaque requête le schéma de paramètres de la totalité d'entre eux : le modèle ne voit d'abord que le nom et la description des outils, va chercher la définition complète par le nom lorsqu'il en a besoin, puis émet l'appel de fonction dans la même requête.

Cette fonction n'est pour l'instant disponible que dans l'Interactions API et prend en charge Gemini 3.6 et les versions supérieures, y compris tous les modèles Gemini 4. Le point de départ exposé par Google dans son blog est simple : plus il y a d'outils, plus l'envoi du schéma complet à chaque requête fait grimper les jetons d'entrée et la latence, et plus les outils candidats sont nombreux, moins le modèle a de chances de choisir le bon.

Illustration: only one drawer opens to reveal a wrench, showing how Gemini loads tool definitions on demand.

Deux modes de récupération

Le mode par défaut est la récupération côté serveur. Le développeur ajoute un élément {"type": "tool_search"} dans tools, puis marque les outils peu utilisés avec defer_loading, tandis que les outils courants restent déclarés directement comme avant. La recherche s'exécute sur les serveurs de Google : inutile de construire ou d'héberger soi-même un index. Au débogage, interaction.steps affiche trois types d'étapes, tool_search_call, tool_search_result et function_call, ce qui permet de voir si c'est le nom ou la description de l'outil qui est mal formulé.

L'autre mode est la récupération côté client : on déclare tool_search avec "execution": "client" ; une fois que le modèle a émis sa requête de recherche, c'est l'application elle-même qui interroge son registre d'outils, puis renvoie les schémas correspondants comme résultat de fonction. Cela ajoute un aller-retour à chaque recherche, mais en échange les outils n'ont pas à être déclarés à l'avance, on peut en ajouter de nouveaux en cours de conversation, filtrer selon les droits de l'utilisateur ou brancher son propre index vectoriel.

Les serveurs MCP distants sont également concernés : en réglant defer_loading: true sur l'outil mcp_server, tous les outils exposés par ce serveur passent en chargement à la demande. Google précise aussi que les schémas à chargement différé ne sont pas placés au début du prompt ; ceux qui sont chargés plus tard sont ajoutés plus loin dans la conversation, si bien que le cache de préfixe n'est pas invalidé d'un tour à l'autre.

« Tool Retrieval has no separate charge. Input and output tokens are billed at the standard rates for the model you call. »

(Tool Retrieval n'est pas facturé séparément. Les jetons d'entrée et de sortie sont facturés aux tarifs standard du modèle appelé.)

Économie ou pas, tout dépend de la taille du catalogue d'outils

Activer tool_search ajoute un petit bloc fixe de jetons d'entrée, dont le billet ne donne pas la taille ; chaque schéma chargé par le modèle est ensuite facturé en entrée pour la suite de la conversation, exactement comme un outil déclaré à l'avance. Selon Google, on n'économise des jetons que si les schémas non chargés sont plus nombreux que ceux qui le sont, ce qui est généralement le cas des grands catalogues d'outils, et l'entreprise recommande aux développeurs de mesurer l'effet avec leur propre trafic réel. À l'inverse, pour les applications qui ont peu d'outils ou qui en utilisent la plupart à chaque tour, l'activer n'est pas forcément rentable.

Même idée, Anthropic avait un coup d'avance

Cette approche, la plateforme pour développeurs de Claude l'avait déjà lancée en novembre de l'an dernier. Anthropic l'appelle Tool Search Tool, le paramètre de chargement différé s'appelle lui aussi defer_loading, et les serveurs MCP y sont également inclus en chargement à la demande. La différence entre les deux entreprises tient aux preuves fournies : Anthropic avait alors publié les économies de jetons et la précision du choix d'outils mesurées lors de tests internes, alors que Google ne décrit cette fois que le mécanisme et la facturation, sans aucune donnée d'efficacité.

Pour les équipes qui construisent déjà des agents avec les interfaces de Claude ou d'OpenAI, l'obstacle tient surtout cette fois à l'interface elle-même. Tool Retrieval n'est disponible que dans l'Interactions API ; les projets Gemini restés sur l'ancienne interface doivent d'abord migrer pour pouvoir l'activer. Les quotas et limites de débit applicables après la fin de la préversion ne sont pas non plus publiés à ce jour par Google.

Sources : blog développeurs de Google, CocoLoop, documentation Tool Retrieval de Google AI Studio, documentation développeurs d'Anthropic ; vérification des versions de modèles prises en charge, des deux modes de récupération, du chargement différé avec MCP et des règles de facturation.