OpenAI a publié le 18 novembre un rapport sur la conception de puces, affirmant que ses modèles ont participé à deux chantiers matériels : sa puce d'inférence maison Jalapeño, et l'optimisation, en partenariat avec AMD, de modules de conception d'un GPU phare. D'après l'entreprise, sur l'IP de GPU phare d'AMD, les modifications proposées par le modèle ont amélioré jusqu'à 14 % l'indicateur combiné de consommation, de performance et de surface (ensemble appelé PPA dans le secteur) par rapport à une « base hautement optimisée ». Le travail a duré moins de cinq mois, et une partie des modifications figure déjà dans des conceptions envoyées en fabrication.
OpenAI résume ce résultat par « environ un an de progrès en moins de cinq mois ». C'est le calcul de l'entreprise elle-même ; dans la presse, AMD n'a pas formulé de déclaration chiffrée distincte.
Le modèle retouche le code RTL
Selon les médias qui ont relayé le rapport, le modèle réécrit du RTL, c'est-à-dire le code en SystemVerilog qui décrit les circuits de la puce. Chaque réécriture est vérifiée avec des outils de Synopsys pour s'assurer que le comportement du module n'a pas changé, puis on évalue les compromis de PPA. Outre la conception de GPU envoyée en fabrication, AMD a intégré une autre partie des modifications dans les fichiers de conception de production de versions ultérieures, et validé des gains de PPA de l'ordre de quelques pour cent sur plusieurs modules clés d'un futur CPU phare de nouvelle génération.
Côté Jalapeño, les chiffres sont plus détaillés. Les modifications proposées par le modèle ont réduit d'environ 13 % la surface de cellules standard du warp engine (l'unité vectorielle) et d'environ 10 % celle de l'unité matricielle. Dans cette dernière, le multiplieur redessiné a gagné environ 15 % de surface de cellules à l'étape de synthèse, et sa latence est passée de deux cycles à un ; l'additionneur a lui aussi perdu environ 15 % de surface, en conservant une latence de deux cycles. OpenAI indique que ces optimisations ont été validées lors de la phase de mise sous tension de la puce.
Le rapport joint aussi une série d'expériences sur RISC-V : cinq générations de modèles ont dû optimiser deux cœurs de processeur 32 bits open source, PicoRV32 et Ibex, ou écrire un cœur entier à partir d'exigences rédigées, pour un total de 9 881 exécutions notées ; une simulation échouée ou une surface supérieure à 16 fois celle du cœur d'origine valait zéro. GPT-6.2 Astra obtient la meilleure note moyenne sur les tâches d'optimisation de RTL des deux cœurs ; sur la tâche « écrire le cœur à partir des exigences », sa moyenne dépasse 0,7 pour PicoRV32 et avoisine 0,75 pour Ibex.
OpenAI expose également les défauts de ces expériences : les modèles partant des exigences omettent parfois des fonctions du cœur d'origine, comme les compteurs de performance et les instructions d'extension, qui aident peu le débit de la charge de test ; la note élevée de la tâche « écrire le cœur à partir des exigences » peut donc venir en partie de fonctions manquantes. La correction proposée par l'entreprise consiste à rendre ces fonctions obligatoires, à resserrer le plafond de surface et à revérifier le timing après la synthèse physique.
Relier les étapes
Si l'on regarde l'activité matérielle d'OpenAI sur l'année, le rythme est soutenu. En juin, l'entreprise a dévoilé Jalapeño avec Broadcom, en indiquant environ neuf mois entre la conception initiale et le tape-out ; en août, elle a publié les résultats sur silicium ; le 30 septembre, elle a signé avec Synopsys un accord pluriannuel couvrant le développement conjoint, la commercialisation et le partage des revenus. Dans ce rapport, les deux parties annoncent en outre l'entraînement de GPT-Synopsys, afin que le modèle manipule les outils d'EDA comme un ingénieur chevronné, de l'optimisation du PPA jusqu'à la convergence du timing et de la vérification, les ingénieurs relisant à la dernière étape.
Synopsys affirme que les données de conception des clients ne serviront pas à entraîner GPT-Synopsys ; les données sont chiffrées au repos et en transit, et la durée de conservation, l'audit et les autorisations sont configurables. Les données de conception sont l'actif le plus sensible des fabricants de puces ; savoir si cet engagement dissipe les réticences dépendra du nombre de clients prêts à confier leur RTL à cet ensemble d'outils.
Pour l'instant, tous les chiffres proviennent d'OpenAI. Sur quels modules portent exactement les 14 % et à quelle génération de produit AMD ils correspondent, les documents publics ne le disent pas, et aucune reproduction par un tiers n'a encore eu lieu.
Sources : rapport d'OpenAI sur la conception de puces, The Decoder, CocoLoop, Unite.AI ; ont été recoupés le gain de PPA sur l'IP de GPU phare d'AMD, les baisses de surface de chaque unité de Jalapeño et le nombre d'exécutions des expériences RISC-V.