GLM-4.5 von Zhipu AI hat eine sehr signalträchtige Sache getan — es wurde speziell für die NVIDIA H20 (die für China bestimmte GPU-Version) optimiert, sodass das gesamte Modell mit nur acht Karten läuft.
Warum das bemerkenswert ist
Nach den US-Exportbeschränkungen für Chips nach China ist die beste NVIDIA GPU, die chinesische KI-Unternehmen kaufen können, die H20 – eine Version, deren Verbindungsrechenbandbreite "beschnitten" wurde. Viele ausländische Spitzenmodelle laufen auf der H20 nicht oder nur mit sehr geringer Effizienz.
Zhipu hat sich entschieden, sich dieser Einschränkung direkt zu stellen, indem die Modellarchitektur und der Inferenzablauf speziell an die Hardwareeigenschaften der H20 angepasst wurden. Die Kosten und die Einstiegshürde für acht H20-Karten sind weitaus freundlicher als Lösungen, die dutzende oder hunderte A100-Karten erfordern.
Technische Anpassungen
Zu den spezifischen Optimierungen gehören:
- Anpassung der Attention-Berechnungsmethode an die Speicherbandbreitencharakteristik der H20
- Eine Modell-Sharding-Strategie, die speziell für die 8-Karten-Konfiguration entwickelt wurde
- Ein Quantisierungsschema für die Inferenzphase, das an die Rechengenauigkeit der H20 angepasst wurde
Leistung
GLM-4.5 zeigt bei Aufgaben zum chinesischen Textverständnis und zur Texterzeugung eine Spitzenleistung im Inland. Es ist bei den meisten chinesischen Benchmarks auf Augenhöhe mit oder nahe an Modellen der GPT-4-Klasse. Bei englischen Aufgaben gibt es eine Lücke, aber diese schrumpft.
Wichtiger ist jedoch der tatsächliche Bereitstellungsaufwand – für inländische Unternehmen ist der praktische Nutzen, mit legal beschaffbarer Hardware nahe an Spitzenergebnisse zu kommen, weitaus bedeutender als Benchmark-Werte.
Branchenauswirkungen
Das Vorgehen von Zhipu repräsentiert einen Ansatz der chinesischen KI-Branche im Umgang mit Chip-Beschränkungen: Nicht auf die beste Hardware warten, sondern mit vorhandener Hardware die besten Ergebnisse erzielen.
Dies steht im Einklang mit der Strategie von DeepSeek, mit begrenzter Rechenleistung die Kosten auf ein Minimum zu drücken. Wenn die äußeren Bedingungen eingeschränkt sind, können die dadurch erzwungenen technischen Optimierungsfähigkeiten zu einem langfristigen Wettbewerbsvorteil werden.
Quellenangabe: CocoLoop, offizielle Ankündigung von Zhipu AI