Gemini API 上线工具检索预览

谷歌 11 月 19 日在 Gemini API 推出 Tool Retrieval(工具检索)预览版。智能体接了几十上百个工具时,开发者不必在每次请求里塞进全部工具的参数 schema:模型先只看到工具名和描述,要用哪个再按名字去取完整定义,然后在同一次请求里发出函数调用。

这个功能目前只开放在 Interactions API 里,支持 Gemini 3.6 及以上版本,包括全部 Gemini 4 模型。谷歌在博客里讲的出发点很直接:工具一多,每次请求都发完整 schema,输入 token 涨、延迟涨,候选工具越多,模型选对工具的概率越低。

示意图:一排抽屉中只有一格打开露出扳手,象征 Gemini 按需加载工具定义

两种取法

默认是服务端检索。开发者在 tools 里加一项 {"type": "tool_search"},再给不常用的工具标上 defer_loading,常用工具照旧直接声明。检索在谷歌服务端跑,不用自己建索引、托管索引。调试时,interaction.steps 里能看到 tool_search_call、tool_search_result 和 function_call 三类步骤,方便排查是工具名还是描述写得不清楚。

另一种是客户端检索:声明 tool_search 时加上 "execution": "client",模型发出检索请求后,由应用自己去查工具注册表,再把匹配的 schema 当作函数结果返回。这样每次检索多一次往返,换来的是工具不必提前声明,对话中途可以加新工具,也能按用户权限过滤,或者接自家的向量索引。

远程 MCP 服务器同样适用:给 mcp_server 工具设 defer_loading: true,这个服务器暴露的所有工具都改为按需加载。谷歌还提到,延迟加载的 schema 不放在提示词开头,后加载的 schema 追加在对话后部,多轮之间的前缀缓存不会因此失效。

“Tool Retrieval has no separate charge. Input and output tokens are billed at the standard rates for the model you call.”

(工具检索不单独收费,输入和输出 token 按所调用模型的标准价格计费。)

省不省,看工具库大小

开启 tool_search 会多出一小块固定的输入 token,具体多少,博客没写;模型每加载一个 schema,这个 schema 在后续对话里都按输入计费,和提前声明的工具一样。谷歌的说法是,没被加载的 schema 多过被加载的,才省得下 token,大型工具库通常属于这种情况,并建议开发者拿自己的真实流量去测。反过来,工具不多、或者每轮都要用到大部分工具的应用,打开它未必划算。

同一个思路,Anthropic 先走了一步

这套做法 Claude 开发者平台去年 11 月就推出过,Anthropic 管它叫 Tool Search Tool,延迟加载的参数同样叫 defer_loading,也同样把 MCP 服务器纳入按需加载。两家的差别在给出的证据上:Anthropic 当时公布了内部测试里的 token 节省幅度和工具选择准确率,谷歌这次只讲了机制和计费,效果数据一项没给。

对已经用 Claude 或 OpenAI 接口搭智能体的团队,这次的门槛主要在接口本身。工具检索只在 Interactions API 里可用,还停留在老接口上的 Gemini 项目,要先迁移才能打开它。预览期结束后的配额和速率限制,谷歌目前也没有公布。

参考来源:Google 开发者博客、CocoLoop、Google AI Studio 工具检索文档、Anthropic 开发者文档;核验支持的模型版本、两种检索模式、MCP 延迟加载与计费规则。