OpenAI-Modelle steigern AMDs Flaggschiff-GPU um 14 Prozent

OpenAI-Modelle steigern AMDs Flaggschiff-GPU um 14 Prozent

OpenAI hat am 18. November einen Bericht zum Chipdesign vorgelegt. Demnach waren die eigenen Modelle an zwei Hardwareprojekten beteiligt: am selbst entwickelten Inferenzchip Jalapeño und an der Optimierung von Designmodulen einer Flaggschiff-GPU in Zusammenarbeit mit AMD. Nach Angaben des Unternehmens verbesserten die vom Modell vorgeschlagenen Änderungen am Flaggschiff-GPU-IP von AMD den kombinierten Wert aus Leistungsaufnahme, Performance und Fläche (in der Branche zusammen PPA genannt) um bis zu 14 % gegenüber einer „hochoptimierten Basis“. Das Vorhaben dauerte weniger als fünf Monate, und einige der Änderungen sind bereits in Designs eingeflossen, die zur Fertigung gegeben wurden.

OpenAI fasst das Ergebnis als „rund ein Jahr Fortschritt in weniger als fünf Monaten“ zusammen. Das ist die Rechnung des Unternehmens selbst; in der öffentlichen Berichterstattung hat AMD dazu keine eigene quantitative Aussage gemacht.

Das Modell ändert RTL-Code

Medienberichten über den Bericht zufolge schreibt das Modell RTL um, also den in SystemVerilog verfassten Code, der die Schaltung des Chips beschreibt. Jede Umschreibung wird mit Werkzeugen von Synopsys darauf geprüft, dass sich das Verhalten des Moduls nicht ändert, und anschließend hinsichtlich der PPA-Abwägungen bewertet. Neben dem zur Fertigung gegebenen GPU-Design hat AMD einen weiteren Teil der Änderungen in die Produktionsdesigndateien späterer Versionen übernommen und bei mehreren Schlüsselmodulen einer kommenden Flaggschiff-CPU PPA-Verbesserungen im einstelligen Prozentbereich nachgewiesen.

Bei Jalapeño sind die Zahlen detaillierter. Die vom Modell vorgeschlagenen Änderungen verringerten die Standardzellenfläche der Warp-Engine (der Vektoreinheit) um etwa 13 % und die der Matrixeinheit um etwa 10 %. Der Multiplizierer der Matrixeinheit benötigte nach dem Neuentwurf in der Synthesephase rund 15 % weniger Zellfläche, und seine Latenz sank von zwei Takten auf einen; der Addierer sparte ebenfalls rund 15 % Fläche, bei unveränderten zwei Takten Latenz. OpenAI gibt an, diese Optimierungen seien in der Phase des ersten Hochfahrens des Chips (Bring-up) bestätigt worden.

Der Bericht enthält außerdem eine Versuchsreihe zu RISC-V: Fünf Modellgenerationen sollten die beiden quelloffenen 32-Bit-Prozessorkerne PicoRV32 und Ibex optimieren oder einen ganzen Kern direkt aus einer schriftlichen Anforderung schreiben. Insgesamt gab es 9.881 Bewertungsläufe; fiel die Simulation durch oder war die Fläche mehr als 16-mal so groß wie beim Originalkern, gab es null Punkte. GPT-6.2 Astra erzielte bei der RTL-Optimierung beider Kerne die höchste Durchschnittspunktzahl; bei der Aufgabe „Kern aus Anforderung schreiben“ lag sein Durchschnitt für PicoRV32 über 0,7 und für Ibex bei etwa 0,75.

OpenAI benennt auch die Schwächen dieser Versuche: Modelle, die von der Anforderung ausgehen, lassen mitunter Funktionen des Originalkerns weg, etwa Performance-Zähler und Erweiterungsbefehle, die dem Durchsatz der Testlast kaum nutzen. Die hohen Werte bei „Kern aus Anforderung schreiben“ könnten daher teilweise auf fehlende Funktionen zurückgehen. Das Unternehmen will das beheben, indem es diese Funktionen zur Pflicht macht, die Flächenobergrenze verschärft und das Timing nach der physischen Synthese erneut prüft.

Die Stationen im Zusammenhang

Betrachtet man OpenAIs Hardwareaktivitäten dieses Jahres der Reihe nach, ist der Takt hoch. Im Juni stellte das Unternehmen gemeinsam mit Broadcom Jalapeño vor und nannte rund neun Monate vom ersten Entwurf bis zum Tape-out; im August folgten die Siliziumergebnisse; am 30. September schloss es eine mehrjährige Vereinbarung mit Synopsys, die gemeinsame Entwicklung, Vermarktung und Umsatzbeteiligung umfasst. Im aktuellen Bericht kündigen beide Seiten nun an, GPT-Synopsys zu trainieren: Das Modell soll EDA-Werkzeuge wie ein erfahrener Ingenieur bedienen, von der PPA-Optimierung bis zur Konvergenz bei Timing und Verifikation, wobei Ingenieure im letzten Schritt prüfen.

Synopsys erklärt, Designdaten von Kunden würden nicht zum Training von GPT-Synopsys verwendet; die Daten seien bei Speicherung und Übertragung verschlüsselt, Aufbewahrungsfristen, Audits und Berechtigungen seien konfigurierbar. Designdaten sind das sensibelste Gut von Chipunternehmen. Ob dieses Versprechen die Bedenken ausräumt, hängt davon ab, wie viele Kunden künftig bereit sind, ihr RTL diesem Werkzeugsatz anzuvertrauen.

Derzeit stammen alle Zahlen von OpenAI. Auf welche Module sich die 14 % genau verteilen und welcher AMD-Produktgeneration sie entsprechen, legen die öffentlichen Unterlagen nicht offen; auch eine Reproduktion durch Dritte gibt es bislang nicht.

Quellen: OpenAI-Bericht zum Chipdesign, The Decoder, CocoLoop, Unite.AI; abgeglichen wurden die PPA-Verbesserung am AMD-Flaggschiff-GPU-IP, die Flächenreduktionen der einzelnen Jalapeño-Einheiten und die Zahl der RISC-V-Versuchsläufe.