Google 发布 Gemini Decisions API,背后是一个新模型 Gemini Decision 1(接口名 gemini-decision-1)。它只做一件事:在给定选项里挑答案,并给出概率和置信度。工具选择、策略检查、模型路由、上下文分级,这类在 Agent 流程里反复出现的“小判断”,是它瞄准的场景。
Google DeepMind 产品经理 Min Choi 和首席科学家 Felix Yu 在官方博客里介绍,这个模型不像普通大模型那样逐个 token 生成答案文本,它的做法是直接给候选选项打分。
“Gemini Decision 1 scores your candidate options in a single forward pass”(Gemini Decision 1 在单次前向传播中给候选选项打分。)
三种题型,一次最多一千道
接口支持三种题型。是/否题估计某个条件成立的概率,可以附上正反两面的判断标准;多选题返回胜出选项和每个候选的归一化概率,选项数在 2 到 255 个之间;评分题对应从 0 开始的有序量表,返回加权后的连续分数和各档概率。每个答案都带一个 0 到 1 的置信度。
输入可以是文本、图像、音频、视频和 PDF,并且能混在同一份材料里,比如一段客服通话录音加上账户元数据,或者一份扫描件加一张货损照片。单次请求的输入上限是 256K tokens,最多同时评估 1000 个问题。
速度是这次发布的重点。官方给出的端到端延迟为 150 到 250 毫秒,模型计算部分的中位延迟是 50 到 100 毫秒;基准测试的上下文最长 16K tokens,题目数量从 1 道加到 100 道,延迟几乎不变。Google 自家的 Gemini Notebook 已经用它把用户查询实时分派给不同档位的模型,路由延迟最多降了 40%。
只收输入费,算一笔账
定价是每百万输入 tokens 0.10 美元,输出不收费。博客原话是,没有输出 token 费用,没有随思考长度浮动的账单,也不单独收音频转写和 OCR 的钱。官方称,在一套共享基准上,这个方案比用 Gemini 3.5 Flash-Lite 走 Interactions API 便宜约 5 倍。
粗算一下:一个电商客服系统每次把 1 万 token 的通话转写和订单信息送进去,一次问 50 个问题(要不要退款、情绪是否激烈、是否涉及欺诈、该转哪个组),按输入价计,单次约 0.001 美元,一百万次约 1000 美元。这个估算假设题目文字和材料合计 1 万 token,图像、视频按分辨率折算成 token 后,实际数字会浮动。
对比的口径要看清。Google 拿来比较的是 Flash-Lite 这类生成式小模型,生成式方案要为输出和思考 token 付钱,问题越多、推理越长,账单越高;Decisions API 把这部分成本拿掉了。代价是它只能回答封闭式问题,开放式的总结、改写、写代码仍然要交给生成式模型。
这类需求以前多半靠两种办法凑:要么让生成式小模型输出一个“是”或“否”,再从文本里解析结果;要么单独训练一个分类模型,换一批标签就得重训。前一种拿不到稳定的概率值,后一种不认识图片和音频。Decisions API 给出的是带置信度的概率,开发者可以自己设阈值,比如置信度低于 0.7 的工单转人工,高于 0.9 的直接放行。这个阈值怎么定、模型的置信度和真实准确率对得有多准,要等开发者拿自己的数据去测,博客里只给了 Google 内部用例的效果。
已经接进哪些产品
Google 列了几个内部用例:Gemini Notebook 的模型路由;Stitch 的快速画布实验,用它根据语音或点击指令修改可交互线框图;Google Labs 的 CC 从 200 多个表情里挑合适的回应;Google 搜索用它给 MCP 工具加一层安全检查,识别对抗性行为。
接口现在可以通过 Gemini API 和 Google AI Studio 使用,有免费额度供原型开发,文档覆盖 Python、JavaScript 和 REST。OpenRouter、LangChain、Vercel、LiteLLM、Pydantic AI、LiveKit 等第三方集成会陆续上线,Google Cloud 上的版本标注为“即将推出”,具体时间没有公布。
参考来源:Google 官方博客 Gemini Decisions API 发布文章(核验延迟、题量上限、256K 输入上限与每百万输入 token 定价及 Flash-Lite 对比口径)、CocoLoop、Google DeepMind 产品团队公开说明。