A OpenAI publicou em 18 de novembro um relatório sobre projeto de chips, afirmando que seus modelos participaram de dois trabalhos de hardware: o chip de inferência próprio Jalapeño e a otimização, em parceria com a AMD, de módulos de projeto de uma GPU topo de linha. Segundo a empresa, no IP da GPU topo de linha da AMD, as mudanças propostas pelo modelo elevaram em até 14% o indicador combinado de consumo, desempenho e área (conhecido no setor como PPA) em relação a uma “base altamente otimizada”. O trabalho levou menos de cinco meses, e parte das mudanças já está em projetos enviados à fabricação.
A OpenAI resume o resultado como “cerca de um ano de progresso em menos de cinco meses”. Essa é a conta da própria empresa; nas reportagens públicas, a AMD não fez uma declaração quantitativa separada.
O modelo altera código RTL
De acordo com a imprensa que resumiu o relatório, o modelo reescreve RTL, ou seja, o código escrito em SystemVerilog que descreve os circuitos do chip. Cada reescrita é verificada com ferramentas da Synopsys para garantir que o comportamento do módulo não mudou, e só então se avaliam os compromissos de PPA. Além do projeto de GPU enviado à fabricação, a AMD incluiu outra parte das mudanças nos arquivos de projeto de produção de versões posteriores e validou melhorias de PPA de um dígito percentual em alguns módulos-chave de uma CPU topo de linha de próxima geração.
No lado do Jalapeño, os números são mais detalhados. As mudanças propostas pelo modelo reduziram em cerca de 13% a área de células padrão do warp engine (a unidade vetorial) e em cerca de 10% a da unidade matricial. Nela, o multiplicador, depois de redesenhado, perdeu cerca de 15% de área de células na etapa de síntese, e a latência caiu de dois ciclos para um; o somador também reduziu cerca de 15% da área, mantendo a latência de dois ciclos. A OpenAI diz que essas otimizações foram validadas na fase de bring-up do chip.
O relatório traz ainda uma série de experimentos com RISC-V: cinco gerações de modelos otimizaram dois núcleos de processador open source de 32 bits, PicoRV32 e Ibex, ou escreveram um núcleo inteiro a partir de requisitos escritos, somando 9.881 execuções avaliadas; simulação reprovada ou área acima de 16 vezes a do núcleo original resultava em nota zero. O GPT-6.2 Astra teve a maior nota média nas tarefas de otimização de RTL dos dois núcleos; na tarefa de “escrever o núcleo a partir dos requisitos”, sua média passou de 0,7 no PicoRV32 e ficou em cerca de 0,75 no Ibex.
A OpenAI também aponta falhas nesse conjunto de experimentos: os modelos que partem dos requisitos às vezes omitem funções do núcleo original, como contadores de desempenho e instruções de extensão, que pouco ajudam a vazão da carga de teste; por isso, a nota alta em “escrever o núcleo a partir dos requisitos” pode vir em parte de funcionalidades ausentes. A correção proposta pela empresa é tornar essas funções obrigatórias, apertar o limite de área e rechecar o timing depois da síntese física.
Ligando os pontos
Olhando a trajetória de hardware da OpenAI ao longo do ano, o ritmo é intenso. Em junho, ela apresentou o Jalapeño junto com a Broadcom, falando em cerca de nove meses do projeto inicial ao tape-out; em agosto divulgou os resultados do silício; em 30 de setembro fechou um acordo plurianual com a Synopsys, cobrindo desenvolvimento conjunto, comercialização e divisão de receita. No relatório atual, as duas partes anunciam também o treinamento do GPT-Synopsys, para que o modelo opere ferramentas de EDA como um engenheiro sênior, da otimização de PPA até a convergência de timing e verificação, com engenheiros revisando na etapa final.
A Synopsys afirma que os dados de projeto dos clientes não serão usados para treinar o GPT-Synopsys; os dados são criptografados em repouso e em trânsito, e prazo de retenção, auditoria e permissões são configuráveis. Dados de projeto são o ativo mais sensível das empresas de chips, e saber se essa promessa dissipa as dúvidas dependerá de quantos clientes aceitarão entregar seu RTL a esse conjunto de ferramentas.
Por ora, todos os números vêm da OpenAI. Em quais módulos exatamente caem os 14% e a qual geração de produto da AMD correspondem, o material público não revela, e ainda não houve reprodução por terceiros.
Fontes: relatório de projeto de chips da OpenAI, The Decoder, CocoLoop, Unite.AI; conferidos o ganho de PPA no IP da GPU topo de linha da AMD, as reduções de área de cada unidade do Jalapeño e o número de execuções dos experimentos com RISC-V.