Dịch vụ chưng cất Gemini mở bản xem trước, chỉ chạy ở một khu vực

Google Cloud đã đưa dịch vụ chưng cất Gemini vào giai đoạn xem trước (preview). Dịch vụ này lấy câu trả lời và quá trình suy luận của một mô hình lớn để huấn luyện một mô hình nhỏ hơn, nhằm giảm độ trễ và chi phí gọi API. Trong giai đoạn ưu tiên trải nghiệm sớm, người dùng không được chọn mô hình giáo viên và mô hình học sinh: mô hình giáo viên cố định là gemini-3.1-pro, mô hình học sinh cố định là gemini-2.5-flash.

Rào cản được đặt ra ngay từ đầu. Mã dự án (project ID) phải nằm trong danh sách được cấp phép trước, tài liệu yêu cầu người dùng liên hệ đại diện kinh doanh (sales) của Google để đăng ký; tác vụ chưng cất bắt buộc phải chạy ở khu vực us-central1, không có lựa chọn thứ hai.

Yêu cầu về bộ dữ liệu được viết rất chi tiết

Dữ liệu huấn luyện là tập lệnh (prompt) dạng JSONL được lưu trên Cloud Storage. Trong mỗi bản ghi, trường contents là bắt buộc, chứa đầu vào phía người dùng; trường systemInstruction là tùy chọn, dùng để đặt system prompt. Các cuộc hội thoại nhiều lượt được sắp xếp xen kẽ giữa user và model.

Về quy mô, tài liệu khuyến nghị số lượng mẫu không dưới 1.000, giới hạn cứng là 50.000; tệp JSONL nguồn không vượt quá 1 GB; đầu vào của mỗi bản ghi tối đa 8.000 token, đầu ra của mô hình giáo viên tối đa 24.000 token. Toàn bộ dịch vụ chỉ chấp nhận văn bản thuần túy, đầu vào đa phương thức (multimodal) không nằm trong phạm vi hỗ trợ.

Về giá cả và hạn mức, tài liệu không đề cập một chữ nào. Dịch vụ này hiện đang ở diện điều khoản trước phát hành chính thức (pre-GA), và chính Google cũng ghi chú là không khuyến nghị dùng cho môi trường sản xuất.

Gộp bốn bước vào một tác vụ

Chưng cất là một kỹ thuật đã có từ lâu, trước đây muốn làm phải tự xây một quy trình: gọi mô hình giáo viên sinh câu trả lời hàng loạt, làm sạch và loại trùng, dùng dữ liệu đó để tinh chỉnh (fine-tune) mô hình học sinh, rồi thực hiện một vòng đánh giá. Bốn bước này đều phải tự viết code, tự quản lý tài nguyên tính toán. Dịch vụ được quản lý (managed) gộp chúng thành một tác vụ duy nhất, người dùng chỉ cần nộp bộ prompt.

Cái tiết kiệm được là công sức kỹ thuật, cái đánh đổi là quyền lựa chọn bị thu hẹp. Cả mô hình giáo viên lẫn học sinh đều bị khóa cứng vào phiên bản chỉ định, nghĩa là người dùng không thể dùng một mô hình giáo viên đắt tiền hơn để nâng chất lượng, cũng không thể đưa kết quả vào một mô hình nhỏ có kiến trúc tùy chỉnh. Giới hạn khu vực us-central1 thì cố định thẳng vị trí lưu trú của dữ liệu — với người dùng có yêu cầu tuân thủ (compliance), điều này còn quan trọng hơn cả bản thân tính năng.

Cùng một từ, hai cách đối xử

“Chưng cất” là từ mà trong hai năm gần đây mang bối cảnh khá phức tạp giữa Trung Quốc và Mỹ. Ba cơ quan của Mỹ năm nay đã nêu đích danh sáu công ty Trung Quốc chưng cất mô hình Mỹ, Anthropic cũng từng nhắc trong báo cáo của mình về việc các công ty như Alibaba gọi API với quy mô lớn. Trong những bối cảnh đó, chưng cất bị xem như một hành vi cần bị truy trách nhiệm.

Khác biệt nằm ở điều khoản, không nằm ở thao tác kỹ thuật. Trong dịch vụ này của Google, cả mô hình giáo viên lẫn học sinh đều là mô hình của chính hãng, người dùng dùng bộ prompt của mình để chạy, mô hình học sinh tạo ra phục vụ cho cùng một tài khoản, toàn bộ nằm trong phạm vi được cấp phép. Chưng cất chéo giữa các hãng — lấy đầu ra từ API của hãng khác để huấn luyện mô hình của mình — thường bị điều khoản dịch vụ cấm rõ ràng. Cùng một chuỗi thao tác, nằm trong phạm vi cấp phép là tính năng sản phẩm, nằm ngoài phạm vi cấp phép là vi phạm hợp đồng, thậm chí là chứng cứ cho kiện tụng.

Đối với nhà phát triển trong nước, khả năng sử dụng thực tế của dịch vụ này gần như bằng không. Danh sách cấp phép phải qua cửa sales, khu vực bị khóa ở us-central1, hai lớp rào cản chồng lên nhau, chặn phần lớn dự án khu vực Trung Quốc ở ngoài. Điều có thể tham khảo là bộ tham số mà Google đưa ra: tối thiểu 1.000, tối đa 50.000, đầu vào 8.000 token — đây là mốc kỹ thuật mà chính Google đưa ra cho câu hỏi “một lần chưng cất cần bao nhiêu dữ liệu”, các đội nhóm làm việc tương tự có thể lấy đó làm thước đo.

Khoảng trống của giai đoạn xem trước

Thời điểm GA (phát hành chính thức), giá cả, hạn mức hạn ngạch — cả ba đều chưa có. Liệu danh sách mô hình giáo viên và học sinh có được mở rộng hay không, tài liệu cũng không đề cập. Trước khi những thông tin này được bổ sung đầy đủ, dịch vụ này giống một kênh thử nghiệm nội bộ mở cho các khách hàng lớn đã dùng Gemini Enterprise, hơn là một công cụ có thể đưa thẳng vào kế hoạch.

Nguồn tham khảo: Tài liệu chính thức của Google Cloud, CocoLoop; phiên bản mô hình giáo viên và học sinh, giới hạn khu vực, các trường dữ liệu và hạn mức đã được đối chiếu từng dòng với tài liệu gốc.