Googles Gemini-Distillation startet als Preview – nur eine Region

Google Cloud hat seinen Gemini-Distillationsdienst in die Preview-Phase überführt. Der Dienst nutzt die Antworten und den Denkprozess eines großen Modells, um ein kleineres Modell zu trainieren – mit dem Ziel, Latenz und API-Kosten zu senken. Während der Early-Access-Phase können Nutzer weder Lehrer- noch Schüler-Modell wählen: Das Lehrer-Modell ist fest auf gemini-3.1-pro gesetzt, das Schüler-Modell fest auf gemini-2.5-flash.

Die Hürden stehen gleich am Anfang. Die Projekt-ID muss zunächst auf einer Zulassungsliste stehen; die Dokumentation verweist Nutzer darauf, sich an ihren Google-Vertriebsmitarbeiter zu wenden. Distillation-Jobs müssen zwingend in der Region us-central1 laufen, eine zweite Option gibt es nicht.

Die Anforderungen an den Datensatz sind sehr detailliert

Die Trainingsdaten sind JSONL-Prompt-Sets, die in Cloud Storage abgelegt werden. In jedem Eintrag ist das Feld contents Pflicht und enthält die Eingabe auf Nutzerseite; systemInstruction ist optional und dient dem System-Prompt. Mehrteilige Dialoge wechseln sich abwechselnd zwischen user und model ab.

Beim Umfang empfiehlt die Dokumentation mindestens 1.000 Beispiele, mit einer harten Obergrenze von 50.000; die Quell-JSONL-Datei darf 1 GB nicht überschreiten; die Eingabe pro Eintrag ist auf 8.000 Token begrenzt, die Ausgabe des Lehrer-Modells auf 24.000 Token. Der gesamte Dienst akzeptiert ausschließlich reinen Text, multimodale Eingaben werden nicht unterstützt.

Zu Preisen und Kontingenten verliert die Dokumentation kein einziges Wort. Der Dienst steht derzeit unter Pre-GA-Bedingungen, und Google selbst weist ausdrücklich darauf hin, dass er nicht für den Produktionseinsatz empfohlen wird.

Vier Schritte in einem Job gebündelt

Distillation ist eine altbekannte Technik. Wer sie bisher umsetzen wollte, musste sich selbst eine Pipeline bauen: das Lehrer-Modell zur massenhaften Generierung von Antworten anstoßen, die Daten bereinigen und deduplizieren, damit das Schüler-Modell feinabstimmen und anschließend eine Evaluationsrunde durchführen. Bei jedem dieser vier Schritte musste man selbst Code schreiben und selbst Rechenkapazitäten verwalten. Der Managed Service bündelt sie zu einem einzigen Job – Nutzer müssen nur noch das Prompt-Set einreichen.

Gespart wird Entwicklungsaufwand, eingetauscht wird Wahlfreiheit. Lehrer- und Schüler-Modell sind beide fest auf bestimmte Versionen verriegelt – Nutzer können also weder ein teureres Lehrer-Modell einsetzen, um die Qualität zu steigern, noch die Ergebnisse in ein eigenes, individuell aufgebautes kleines Modell einspeisen. Die Regionsbeschränkung auf us-central1 legt zudem den Speicherort der Daten unumstößlich fest – für Nutzer mit Compliance-Anforderungen wiegt das schwerer als die Funktion selbst.

Gleicher Begriff, zweierlei Behandlung

Der Begriff „Distillation" ist in den vergangenen zwei Jahren im Verhältnis zwischen China und den USA zu einem heiklen Thema geworden. Drei US-Behörden haben in diesem Jahr namentlich sechs chinesische Unternehmen genannt, die US-Modelle destilliert hätten; auch Anthropic erwähnte in einem Bericht groß angelegte API-Zugriffe unter anderem von Alibaba. In diesen Zusammenhängen wurde Distillation als ein Verhalten behandelt, für das Verantwortung eingefordert werden muss.

Der Unterschied liegt in den Nutzungsbedingungen, nicht in der technischen Handlung selbst. Bei Googles Dienst sind Lehrer- und Schüler-Modell beide hauseigene Modelle, Nutzer setzen ihr eigenes Prompt-Set ein, und das entstehende Schüler-Modell dient demselben Konto – alles innerhalb des lizenzierten Rahmens. Anbieterübergreifende Distillation – also die Ausgabe der API eines anderen Anbieters zu nutzen, um ein eigenes Modell zu trainieren – wird von Nutzungsbedingungen in der Regel ausdrücklich untersagt. Dieselbe Abfolge von Handlungen ist innerhalb der Lizenz eine Produktfunktion, außerhalb davon ein Vertragsbruch oder sogar Material für einen Rechtsstreit.

Für Entwickler in China liegt der praktische Nutzen dieses Dienstes nahe null. Die Zulassungsliste erfordert den Umweg über den Vertrieb, die Region ist auf us-central1 fixiert – zwei Hürden übereinandergelegt schließen den Großteil chinesischer Projekte aus. Als Referenz taugt das Zahlenwerk, das Google selbst nennt: mindestens 1.000, höchstens 50.000, Eingabe bis 8.000 Token – das ist der technische Richtwert, den Google für die Frage „Wie viel Daten braucht eine Distillation?" selbst vorgibt, und Teams mit ähnlichen Vorhaben können sich daran orientieren.

Lücken in der Preview-Phase

GA-Termin, Preise und Kontingent-Obergrenzen – alle drei fehlen noch. Ob das Angebot an Lehrer- und Schüler-Modellen erweitert wird, verrät die Dokumentation ebenfalls nicht. Bis diese Informationen nachgereicht werden, wirkt der Dienst eher wie ein interner Testkanal für Großkunden, die bereits Gemini Enterprise nutzen, als wie ein Werkzeug, das man fest einplanen kann.

Quellen: offizielle Google-Cloud-Dokumentation, CocoLoop; Modellversionen von Lehrer und Schüler, Regionsbeschränkung, Datensatzfelder und sämtliche Obergrenzen wurden Zeile für Zeile mit dem Originaldokument abgeglichen.