Google Cloud membawa layanan distilasi Gemini ke tahap pratinjau. Layanan ini mengambil jawaban dan proses penalaran dari model besar untuk melatih model yang lebih kecil, dengan tujuan menekan latensi dan biaya per panggilan. Selama masa akses awal ini, baik model guru maupun model murid tidak bisa dipilih: guru dikunci ke gemini-3.1-pro, murid dikunci ke gemini-2.5-flash.
Hambatan masuk sudah terpasang di depan. ID proyek harus lebih dulu masuk daftar izin, dan dokumentasi mengarahkan pengguna untuk menghubungi perwakilan penjualan Google mereka untuk mengajukan permohonan. Tugas distilasi wajib berjalan di wilayah us-central1, tidak ada pilihan kedua.
Persyaratan Dataset Ditulis Sangat Rinci
Data pelatihan berupa kumpulan prompt format JSONL yang disimpan di Cloud Storage. Di setiap entri, field contents wajib diisi dan menampung input dari sisi pengguna; systemInstruction bersifat opsional, digunakan untuk menaruh prompt sistem. Percakapan multi-giliran disusun bergantian antara user dan model.
Dari sisi skala, dokumentasi menyarankan jumlah sampel minimal 1.000, dengan batas keras 50.000; file JSONL sumber tidak boleh melebihi 1 GB; input per entri dibatasi 8.000 token, dan output model guru dibatasi 24.000 token. Layanan ini hanya menerima teks murni, input multimodal tidak termasuk dalam cakupan dukungan.
Soal harga dan kuota, dokumentasi sama sekali tidak menyinggungnya. Layanan ini saat ini berada di bawah ketentuan pra-GA, dan Google sendiri menandainya sebagai tidak disarankan untuk digunakan di lingkungan produksi.
Empat Langkah Dipadatkan Jadi Satu Tugas
Distilasi sebenarnya adalah teknik lama. Dulu, untuk melakukannya sendiri, orang harus membangun seluruh alurnya: memerintahkan model guru menghasilkan jawaban secara massal, membersihkan dan menghilangkan duplikasi data itu, melakukan fine-tuning pada model murid dengan data tersebut, lalu menjalankan satu putaran evaluasi. Keempat langkah itu masing-masing mengharuskan menulis kode sendiri dan mengelola komputasi sendiri. Layanan terkelola ini memadatkan semuanya jadi satu tugas yang cukup diserahkan pengguna sebagai satu set prompt.
Yang dihemat adalah beban rekayasa, yang ditukar adalah berkurangnya pilihan. Model guru dan murid sama-sama dikunci ke model tertentu, artinya pengguna tidak bisa memasangkan model guru yang lebih mahal untuk mendorong kualitas lebih tinggi, dan juga tidak bisa mengalirkan hasilnya ke model kecil berarsitektur khusus. Sementara itu, pembatasan wilayah ke us-central1 langsung mematok lokasi penyimpanan data, dan bagi pengguna dengan kebutuhan kepatuhan, ketentuan ini justru lebih penting daripada fitur itu sendiri.
Kata yang Sama, Dua Perlakuan Berbeda
Kata 'distilasi' belakangan ini membawa makna yang cukup rumit dalam konteks hubungan AS-China. Tiga lembaga AS tahun ini menyebut enam perusahaan China melakukan distilasi terhadap model-model AS, dan Anthropic juga menyinggung dalam laporannya soal penggunaan API berskala besar oleh perusahaan seperti Alibaba. Dalam konteks-konteks itu, distilasi diperlakukan sebagai tindakan yang perlu dipertanggungjawabkan.
Perbedaannya terletak pada ketentuan layanan, bukan pada tindakan teknisnya. Dalam layanan Google ini, model guru maupun murid sama-sama milik Google sendiri; pengguna menjalankan set prompt milik mereka sendiri melalui layanan itu, dan model murid yang dihasilkan melayani akun yang sama — seluruh prosesnya tetap berada dalam cakupan yang diizinkan. Distilasi lintas vendor — melatih model sendiri dengan output API milik penyedia lain — biasanya dilarang secara eksplisit oleh ketentuan layanan. Rangkaian operasi yang sama bisa menjadi fitur produk bila berada dalam batas yang diizinkan, dan bisa menjadi pelanggaran kontrak atau bahkan bahan gugatan bila berada di luar batas itu.
Bagi pengembang di China, kegunaan praktis layanan ini nyaris nol. Untuk masuk daftar izin harus melalui proses dengan tim penjualan, sementara wilayahnya terkunci di us-central1 — dua batasan yang menumpuk ini menutup akses bagi sebagian besar proyek berbasis China. Yang masih bisa dijadikan acuan adalah kumpulan parameter yang dipublikasikan: mulai dari 1.000 contoh, batas atas 50.000, dan input 8.000 token — ini adalah patokan rekayasa yang diberikan Google sendiri soal berapa banyak data yang dibutuhkan untuk satu kali distilasi, dan tim yang mengerjakan hal serupa bisa menjadikannya tolok ukur.
Kekosongan di Masa Pratinjau
Waktu GA, harga, dan batas kuota — ketiganya masih belum ada. Dokumentasi juga tidak menyebutkan apakah jajaran model guru dan murid akan diperluas. Sebelum informasi-informasi itu lengkap, layanan ini terasa lebih seperti jalur akses awal bagi pelanggan besar yang sudah memakai Gemini Enterprise, ketimbang alat yang bisa langsung dimasukkan ke dalam rencana kerja.
Sumber: dokumentasi resmi Google Cloud, CocoLoop; versi model guru dan murid, pembatasan wilayah, field dataset, dan berbagai batas telah dicocokkan satu per satu dengan dokumentasi aslinya.