Vor zwei Jahren lagen die Kontextfenster der führenden Modelle noch bei 4K bis 8K Token, heute sind Millionen-Token bereits Standard für Flaggschiff-Modelle.
Aktuelle Lage
- Gemini 2.5 Pro: 1 Million Token (erweiterbar auf 2 Millionen)
- Claude Opus 4.6: 1 Million Token (Beta)
- GPT-5.4: 1 Million Token (experimentelle Unterstützung)
- Llama 4 Scout: 10 Millionen Token
- Kimi K2: 128K → 256K
Die 10 Millionen Token von Llama 4 Scout klingen beeindruckend, aber wie genau die Informationsabrufgenauigkeit bei einem so langen Kontext in der Praxis bleibt, ist ein großes Fragezeichen.
Ist länger besser?
Kontextlänge und tatsächliche Nutzbarkeit sind zwei verschiedene Dinge. Der entscheidende Indikator ist die Abrufgenauigkeit bei langem Kontext – ob das Modell in extrem langen Texten noch genau die benötigten Informationen finden kann.
Die Daten von Opus 4.6 zeigen: Bei 256K Kontext liegt die 8-Needle-Abrufgenauigkeit bei 93%, bei 1 Million Token sinkt sie auf 76%. 76% klingt nicht niedrig, bedeutet aber, dass fast ein Viertel der eingegebenen Informationen möglicherweise "vergessen" wird.
Ein weiteres praktisches Problem sind die Kosten. Die Eingabe von 1 Million Token ist nicht kostenlos – nach aktuellen API-Preisen kann das einmalige Füllen des Kontexts zwischen einigen und mehreren Dutzend Dollar kosten. Ohne Kontrolle kann die Token-Rechnung eines Agenten, der Dutzende von Gesprächsrunden durchläuft, sehr hoch ausfallen.
Compaction-Technologie
Anthropics Compaction API und der auto_compact-Mechanismus von GPT-5.4 versuchen, dieses Problem zu lösen: Wenn der Kontext fast voll ist, werden frühere Inhalte automatisch komprimiert, um wichtige Informationen zu erhalten. Theoretisch könnte dies "unendlich lange Gespräche" unterstützen, die tatsächliche Wirkung hängt jedoch davon ab, wie viele Informationen während der Komprimierung verloren gehen.
Ein längeres Kontextfenster ist nicht das Ziel an sich; das Ziel ist die präzise Informationswiedergabe in langen Kontexten. Der Endpunkt dieses Wettrüstens ist nicht "wer hat die größere Zahl", sondern "wer bleibt bei extrem langen Kontexten zuverlässig".
Quellenangabe: Offizielle Anthropic-Dokumentation, CocoLoop, Veröffentlichungsberichte der Modelle