Google vừa ra mắt Gemini Decisions API, đi kèm một mô hình mới là Gemini Decision 1 (tên trong API là gemini-decision-1). Mô hình này chỉ làm một việc: chọn đáp án trong số các lựa chọn cho trước, kèm xác suất và độ tin cậy. Những “phán đoán nhỏ” lặp đi lặp lại trong luồng xử lý của AI agent như chọn công cụ, kiểm tra chính sách, định tuyến mô hình hay phân cấp ngữ cảnh chính là mục tiêu của nó.
Min Choi, quản lý sản phẩm, và Felix Yu, nhà khoa học trưởng tại Google DeepMind, giới thiệu trên blog chính thức rằng mô hình này không sinh văn bản trả lời từng token như các mô hình lớn thông thường, mà chấm điểm trực tiếp cho các phương án ứng viên.
“Gemini Decision 1 scores your candidate options in a single forward pass” (Gemini Decision 1 chấm điểm các phương án ứng viên chỉ trong một lượt truyền xuôi.)
Ba dạng câu hỏi, tối đa một nghìn câu mỗi lần
API hỗ trợ ba dạng câu hỏi. Câu hỏi có/không ước lượng xác suất một điều kiện đúng, và có thể kèm tiêu chí đánh giá cho cả hai phía. Câu hỏi trắc nghiệm trả về phương án thắng cùng xác suất đã chuẩn hóa của từng ứng viên, với số lựa chọn từ 2 đến 255. Câu hỏi chấm điểm dùng thang có thứ tự bắt đầu từ 0, trả về điểm liên tục có trọng số và xác suất của từng mức. Mỗi đáp án đều đi kèm độ tin cậy từ 0 đến 1.
Đầu vào có thể là văn bản, hình ảnh, âm thanh, video và PDF, và có thể trộn trong cùng một bộ tài liệu, chẳng hạn bản ghi âm cuộc gọi chăm sóc khách hàng cùng siêu dữ liệu tài khoản, hoặc một bản scan kèm ảnh hàng hóa bị hư hỏng. Giới hạn đầu vào cho mỗi yêu cầu là 256K token, và có thể đánh giá đồng thời tối đa 1.000 câu hỏi.
Tốc độ là điểm nhấn của đợt ra mắt này. Google công bố độ trễ đầu cuối từ 150 đến 250 mili giây, độ trễ trung vị của phần tính toán mô hình là 50 đến 100 mili giây; trong benchmark với ngữ cảnh dài tối đa 16K token, số câu hỏi tăng từ 1 lên 100 mà độ trễ gần như không đổi. Gemini Notebook của chính Google đã dùng nó để điều phối truy vấn của người dùng đến các mô hình ở các phân khúc khác nhau theo thời gian thực, giúp giảm độ trễ định tuyến tới 40%.
Chỉ tính phí đầu vào, thử tính một bài toán
Giá là 0,10 USD cho mỗi triệu token đầu vào, token đầu ra không tính phí. Nguyên văn trên blog là không có phí token đầu ra, không có hóa đơn dao động theo độ dài suy nghĩ, và cũng không tính riêng phần chuyển giọng nói thành văn bản hay OCR. Google cho biết, trên một bộ benchmark dùng chung, giải pháp này rẻ hơn khoảng 5 lần so với việc chạy Gemini 3.5 Flash-Lite qua Interactions API.
Thử tính nhanh: một hệ thống chăm sóc khách hàng thương mại điện tử mỗi lần đưa vào 10.000 token gồm bản ghi cuộc gọi và thông tin đơn hàng, rồi hỏi 50 câu (có nên hoàn tiền không, cảm xúc có gay gắt không, có liên quan gian lận không, nên chuyển cho nhóm nào). Tính theo giá đầu vào, mỗi lần khoảng 0,001 USD, một triệu lần khoảng 1.000 USD. Ước tính này giả định phần chữ của câu hỏi và tài liệu cộng lại là 10.000 token; với hình ảnh và video, sau khi quy đổi theo độ phân giải sang token, con số thực tế sẽ dao động.
Cần hiểu rõ cách so sánh. Thứ Google đem ra đối chiếu là các mô hình nhỏ dạng tạo sinh như Flash-Lite; giải pháp tạo sinh phải trả tiền cho token đầu ra và token suy luận, câu hỏi càng nhiều, suy luận càng dài thì hóa đơn càng cao, còn Decisions API loại bỏ phần chi phí này. Đổi lại, nó chỉ trả lời được câu hỏi đóng; tóm tắt mở, viết lại văn bản hay viết mã vẫn phải giao cho mô hình tạo sinh.
Trước đây nhu cầu loại này phần lớn được xử lý chắp vá bằng hai cách: hoặc cho mô hình nhỏ dạng tạo sinh xuất ra “có” hoặc “không” rồi phân tích kết quả từ văn bản, hoặc huấn luyện riêng một mô hình phân loại và phải huấn luyện lại mỗi khi đổi bộ nhãn. Cách đầu không cho giá trị xác suất ổn định, cách sau không hiểu hình ảnh và âm thanh. Decisions API trả về xác suất kèm độ tin cậy, nhà phát triển có thể tự đặt ngưỡng, ví dụ phiếu hỗ trợ có độ tin cậy dưới 0,7 thì chuyển cho người xử lý, trên 0,9 thì cho qua thẳng. Việc đặt ngưỡng ra sao và độ tin cậy của mô hình khớp với độ chính xác thực tế đến đâu còn phải chờ nhà phát triển thử trên dữ liệu của chính mình; blog chỉ nêu hiệu quả của các trường hợp sử dụng nội bộ tại Google.
Những sản phẩm đã tích hợp
Google nêu một số trường hợp sử dụng nội bộ: định tuyến mô hình trong Gemini Notebook; thử nghiệm canvas nhanh của Stitch, dùng nó để chỉnh sửa wireframe tương tác theo lệnh bằng giọng nói hoặc cú nhấp; CC của Google Labs chọn phản hồi phù hợp trong hơn 200 biểu tượng cảm xúc; Google Search dùng nó để thêm một lớp kiểm tra an toàn cho các công cụ MCP, nhận diện hành vi đối kháng.
API hiện có thể dùng qua Gemini API và Google AI Studio, có hạn mức miễn phí để làm nguyên mẫu, tài liệu bao gồm Python, JavaScript và REST. Các tích hợp bên thứ ba như OpenRouter, LangChain, Vercel, LiteLLM, Pydantic AI, LiveKit sẽ lần lượt ra mắt; phiên bản trên Google Cloud được ghi là “sắp ra mắt”, chưa công bố thời gian cụ thể.
Nguồn tham khảo: bài công bố Gemini Decisions API trên blog chính thức của Google (đối chiếu độ trễ, giới hạn số câu hỏi, giới hạn đầu vào 256K, giá mỗi triệu token đầu vào và cách so sánh với Flash-Lite), CocoLoop, thuyết minh công khai của nhóm sản phẩm Google DeepMind.