구글이 Gemini Decisions API를 공개했다. 이 API의 바탕은 새 모델 Gemini Decision 1(API 이름 gemini-decision-1)이다. 주어진 선택지 중에서 답을 고르고 확률과 신뢰도를 함께 내놓는 일만 한다. 도구 선택, 정책 검사, 모델 라우팅, 컨텍스트 등급 분류처럼 에이전트 워크플로에서 되풀이되는 '작은 판단'이 이 모델이 겨냥하는 영역이다.
구글 딥마인드의 프로덕트 매니저 Min Choi와 수석 과학자 Felix Yu는 공식 블로그에서, 이 모델이 일반적인 대형 모델처럼 답변 텍스트를 토큰 단위로 생성하지 않고 후보 선택지에 곧바로 점수를 매긴다고 설명했다.
"Gemini Decision 1 scores your candidate options in a single forward pass"(Gemini Decision 1은 단일 순전파로 후보 선택지에 점수를 매긴다.)
세 가지 문항 유형, 한 번에 최대 1,000개
API는 세 가지 문항 유형을 지원한다. 예/아니오 문항은 어떤 조건이 성립할 확률을 추정하며, 긍정과 부정 양쪽의 판단 기준을 덧붙일 수 있다. 객관식 문항은 선택된 항목과 각 후보의 정규화된 확률을 반환하고, 선택지 수는 2개에서 255개 사이다. 평가 문항은 0부터 시작하는 순서형 척도에 대응하며, 가중 평균한 연속 점수와 단계별 확률을 반환한다. 모든 답에는 0에서 1 사이의 신뢰도가 붙는다.
입력은 텍스트, 이미지, 오디오, 비디오, PDF를 받을 수 있고 같은 자료 안에 섞어 넣을 수도 있다. 고객센터 통화 녹음에 계정 메타데이터를 더하거나, 스캔 문서에 파손된 화물 사진을 함께 넣는 식이다. 요청 한 건당 입력 상한은 256K 토큰이고, 동시에 평가할 수 있는 질문은 최대 1,000개다.
이번 발표의 핵심은 속도다. 구글이 제시한 엔드투엔드 지연은 150~250밀리초이고, 모델 연산 구간의 중앙값은 50~100밀리초다. 컨텍스트 최대 16K 토큰으로 진행한 벤치마크에서는 질문 수를 1개에서 100개로 늘려도 지연이 거의 변하지 않았다. 구글 자체 서비스인 Gemini Notebook은 이미 이 모델로 사용자 쿼리를 등급이 다른 모델로 실시간 분배하고 있으며, 라우팅 지연이 최대 40% 줄었다.
입력 요금만 부과, 계산해 보면
가격은 입력 토큰 100만 개당 0.10달러이며 출력에는 요금이 없다. 블로그의 표현대로라면 출력 토큰 비용도, 사고 시간에 따라 달라지는 청구서도 없고, 오디오 전사나 OCR에 따로 요금을 매기지도 않는다. 구글은 공통 벤치마크에서 이 방식이 Interactions API로 Gemini 3.5 Flash-Lite를 쓰는 것보다 약 5배 저렴하다고 밝혔다.
대략 계산해 보자. 한 이커머스 고객센터 시스템이 매번 통화 녹취와 주문 정보를 합쳐 1만 토큰을 보내고, 환불해야 하는지, 감정이 격앙됐는지, 사기와 관련됐는지, 어느 팀으로 넘겨야 하는지 같은 질문 50개를 한꺼번에 던진다고 하자. 입력 단가로 계산하면 한 번에 약 0.001달러, 100만 번에 약 1,000달러가 든다. 이 추정은 질문 문구와 자료를 합쳐 1만 토큰이라고 가정한 것이며, 이미지와 비디오는 해상도에 따라 토큰으로 환산되므로 실제 금액은 달라질 수 있다.
비교 기준은 분명히 봐야 한다. 구글이 비교 대상으로 삼은 것은 Flash-Lite 같은 생성형 소형 모델이다. 생성형 방식은 출력 토큰과 사고 토큰에도 요금을 내야 하므로 질문이 많아지고 추론이 길어질수록 청구액이 커진다. Decisions API는 이 비용을 없앴다. 대신 닫힌 질문에만 답할 수 있어서, 자유 형식의 요약, 문장 고쳐 쓰기, 코드 작성은 여전히 생성형 모델에 맡겨야 한다.
이런 수요는 지금까지 대개 두 가지 방법으로 때워 왔다. 하나는 생성형 소형 모델이 '예' 또는 '아니오'를 출력하게 한 뒤 텍스트에서 결과를 파싱하는 방식이고, 다른 하나는 분류 모델을 따로 학습시키는 방식인데 라벨이 바뀔 때마다 다시 학습해야 한다. 앞의 방법은 안정적인 확률값을 얻을 수 없고, 뒤의 방법은 이미지와 오디오를 이해하지 못한다. Decisions API는 신뢰도가 붙은 확률을 내놓기 때문에 개발자가 직접 임곗값을 정할 수 있다. 예를 들어 신뢰도가 0.7 미만인 티켓은 사람에게 넘기고, 0.9를 넘으면 바로 통과시키는 식이다. 이 임곗값을 어떻게 정할지, 모델의 신뢰도가 실제 정확도와 얼마나 잘 맞는지는 개발자가 자기 데이터로 직접 검증해야 한다. 블로그에는 구글 내부 사례의 성과만 실려 있다.
이미 적용된 제품
구글은 내부 사례를 몇 가지 소개했다. Gemini Notebook의 모델 라우팅, Stitch의 빠른 캔버스 실험(음성이나 클릭 명령에 따라 인터랙티브 와이어프레임을 수정), 구글 랩스의 CC(200개가 넘는 이모티콘 중에서 알맞은 반응을 선택), 그리고 구글 검색(MCP 도구에 안전 검사 계층을 더해 적대적 행동을 식별)이다.
이 API는 지금 Gemini API와 Google AI Studio에서 이용할 수 있고, 프로토타입 개발용 무료 한도가 제공된다. 문서는 Python, JavaScript, REST를 다룬다. OpenRouter, LangChain, Vercel, LiteLLM, Pydantic AI, LiveKit 등 서드파티 연동도 순차적으로 공개될 예정이다. Google Cloud 버전은 '곧 출시'로 표시돼 있으나 구체적인 시점은 밝히지 않았다.
참고 출처: 구글 공식 블로그의 Gemini Decisions API 발표 글(지연 시간, 질문 수 상한, 256K 입력 상한, 입력 토큰 100만 개당 가격과 Flash-Lite 비교 기준 확인), CocoLoop, 구글 딥마인드 프로덕트 팀의 공개 설명.