Eine Tokenizer-Studie des Forschungsverbunds CLEAR (Coalition for Language Equity in AI Research), veröffentlicht am 29. September, verbreitet sich seit zwei Wochen, nachdem unter anderem Rest of World darüber berichtet hat. Sie misst etwas sehr Konkretes: Wie viele Token muss ein Modell erzeugen, wenn derselbe Inhalt in einer anderen Sprache vorliegt? Den Mehraufwand nennen die Forschenden „Tokenizer-Steuer“ (tokenizer tax).
CLEAR nutzt den Benchmark FLORES-200, also professionell übersetzte Sätze in rund 200 Sprachen, der tatsächlich 203 Kombinationen aus Sprache und Schrift abdeckt. Der Beispielsatz der Studie lautet „People should benefit from AI, regardless of the language they speak“: Im Englischen sind es 13 Token, im Malayalam 26, im Amharischen 78.
Alle heißen Spitzenmodell, doch der Abstand reicht von 5 bis 17
Die wichtigste Kennzahl der Studie ist das Verhältnis von Maximum zu Minimum: Wie oft so viele Token braucht ein Tokenizer für die aufwendigste Sprache im Vergleich zu seiner sparsamsten? Einige in der Berichterstattung genannte Ergebnisse:
- Google Gemini und die Gemma-Gruppe: das 5,1-Fache, der beste Wert unter den universellen Spitzenmodellen
- Anthropic Claude: das 9,3-Fache
- Metas Llama-4-Scout-Gruppe: das 9,5-Fache
- OpenAI GPT-5: das 13,8-Fache
- Falcon 3: das 17-Fache, Schlusslicht
Betrachtet man nur die 20 im Internet am häufigsten genutzten Sprachen, liegt das Verhältnis bei den meisten Tokenizern zwischen dem 1,5- und 3,1-Fachen, bei Falcon 3 beim 4,5-Fachen. Dass Schlagzeilen mal von „1,5 bis 5“, mal von „1,5 bis 3,1“ sprechen, liegt allein daran, ob Falcon 3 mitgerechnet wird.
Der Abstand hängt stärker an der Schrift als an der Zahl der Sprecher. Asturisch hat nur wenige Sprecher, profitiert aber von der lateinischen Schrift und der romanischen Sprachfamilie. Birmanisch, Tibetisch, Khmer, Laotisch sowie die Schriften Tifinagh und Ol Chiki stehen bei fast allen Modellen am ungünstigsten Ende. Auch Bengalisch, Urdu und Panjabi, Sprachen mit Hunderten Millionen Sprechern, werden genannt.
Das Verhältnis misst die Länge der Kodierung und entspricht weder dem tatsächlichen Preis noch der Erfolgsquote bei Aufgaben. Als Basis dient in der Studie die jeweils sparsamste Sprache jedes Tokenizers, meist Englisch oder vereinfachtes Chinesisch. CLEAR räumt selbst ein, dass Sprachen von Natur aus unterschiedlich lang sind und ein Verhältnis von 1:1 wohl unrealistisch ist.
Eine Überschlagsrechnung zu Kosten und Kontext
Mehr Token wirken sich auf Rechnung, Latenz und Kontextkapazität aus. Hochgerechnet vom obigen Beispielsatz (nur ein einzelner Satz, daher lediglich als Größenordnung zu verstehen): Eine Anwendung, die auf Englisch monatlich 1.000 US-Dollar Eingabekosten verursacht, käme mit amharischen Inhalten beim selben Modell grob auf etwa 6.000 US-Dollar. Auch in ein Kontextfenster von 128.000 Token passt nur noch etwa ein Sechstel des Textes. Fragen zu langen Dokumenten und KI-Agenten trifft das zuerst.
Widerspruch kommt von Dheemanth Reddy, CEO von Maya Research. Er meint, die Token-Preise fielen schnell, sodass der direkte Kostendruck nachlasse:
"Token prices are falling very quickly, so the direct cost impact should become less severe over time" (Die Token-Preise fallen sehr schnell, sodass die direkten Kosten mit der Zeit weniger ins Gewicht fallen dürften.)
Zugleich warnt er, dass zusätzliche Trainingsdaten das Tokenisierungsproblem nicht lösen; die Labore müssten eigens Tokenizer für diese Sprachen und Schriften entwerfen. Gegen die Verengung des Kontexts helfen auch sinkende Preise nicht.
Zahlen für chinesische Modelle und Teams im Auslandsgeschäft
Vereinfachtes Chinesisch zählt in dieser Studie zu den Profiteuren, weshalb Nutzer in China diese Steuer im Alltag womöglich kaum spüren. Relevant wird es im Auslandsgeschäft: In Südostasien trifft man häufig auf Birmanisch, Khmer und Laotisch, genau die Sprachen, die am stärksten benachteiligt sind.
Auch die chinesischen Modelle schneiden nicht gut ab: Qwen 3 kommt auf ein Verhältnis von 10,5, das neuere Qwen 3.6 steigt auf 13,1, ein Modellupdate bringt also nicht automatisch Besserung. Die Zahlen zeigen zugleich, dass der Abstand technisch nicht unvermeidbar ist: Metas Übersetzungsmodell NLLB-200 liegt nur beim 2,7-Fachen, es wurde von Anfang an mehrsprachig konzipiert.
CLEAR macht mehrere Vorschläge: die Token-Ungleichheit zwischen Sprachen in Model Cards festzuhalten; die nächste Modellgeneration bewusst auf mehr Sprachen auszulegen; da sich ein Tokenizer nur mit einem neuen Modell austauschen lässt, sollten die Anbieter sofort auf Abrechnung nach Zeichen oder Sprache umstellen; öffentliche Auftraggeber sollten von Lieferanten die Kosten je Sprache offenlegen lassen. Pratyush Choudhury, Mitgründer von Activate AI, fordert schlicht, dass jedes große Labor ein Zeugnis pro Sprache veröffentlicht. In der bisherigen öffentlichen Berichterstattung sind all das noch Vorschläge.
Quellen: Rest of World; CocoLoop; Trending Topics; öffentliche Zusammenfassung der CLEAR-Studie; die Verhältniswerte der einzelnen Modelle folgen der in der Berichterstattung wiedergegebenen CLEAR-Methodik, der vollständige Bericht lag nicht direkt vor.