OpenAI 모델, AMD 플래그십 GPU 설계 최대 14% 개선

OpenAI 모델, AMD 플래그십 GPU 설계 최대 14% 개선

OpenAI는 11월 18일 칩 설계 보고서를 공개하고, 자사 모델이 두 가지 하드웨어 작업에 참여했다고 밝혔다. 하나는 자체 개발 추론 칩 Jalapeño이고, 다른 하나는 AMD와 협력해 플래그십 GPU의 설계 모듈을 최적화한 작업이다. 회사 설명에 따르면 AMD 플래그십 GPU IP에서 모델이 제안한 변경으로 전력·성능·면적(업계에서는 통칭 PPA)을 합친 종합 지표가 '고도로 최적화된 기준선' 대비 최대 14% 향상됐다. 작업에는 5개월이 채 걸리지 않았고, 일부 변경은 이미 제조 공정으로 넘어간 설계에 반영됐다.

OpenAI는 이 결과를 '5개월 미만에 약 1년 치 진척'이라고 요약했다. 이는 회사 자체의 표현이며, 공개된 보도에서 AMD가 별도로 수치를 들어 입장을 밝히지는 않았다.

모델이 고친 것은 RTL 코드

보고서를 전한 언론에 따르면, 모델은 SystemVerilog로 작성된 RTL, 즉 칩 회로를 기술하는 코드를 다시 썼다. 고쳐 쓸 때마다 Synopsys 도구로 모듈 동작이 달라지지 않았는지 검증한 뒤 PPA 득실을 평가했다. 제조로 넘어간 GPU 설계 외에도 AMD는 또 다른 일부 변경을 후속 버전의 양산 설계 파일에 넣었고, 차세대 플래그십 CPU의 핵심 모듈 몇 곳에서도 한 자릿수 퍼센트의 PPA 개선을 확인했다.

Jalapeño 쪽 수치는 더 구체적이다. 모델이 제안한 변경으로 warp engine(벡터 유닛)의 표준 셀 면적은 약 13%, 행렬 유닛은 약 10% 줄었다. 이 가운데 행렬 유닛의 곱셈기는 재설계 후 합성 단계의 셀 면적이 약 15% 줄었고 지연은 2사이클에서 1사이클로 단축됐다. 덧셈기도 면적이 약 15% 줄었으며 지연은 2사이클을 유지했다. OpenAI는 이러한 최적화가 칩 첫 가동 단계에서 검증됐다고 밝혔다.

보고서에는 RISC-V 실험도 실렸다. 5세대 모델에게 오픈소스 32비트 프로세서 코어인 PicoRV32와 Ibex를 최적화하게 하거나, 서면 요구사항만으로 코어 전체를 작성하게 했다. 채점이 이뤄진 실행은 총 9,881회이며, 시뮬레이션을 통과하지 못했거나 면적이 원본 코어의 16배를 넘으면 0점 처리했다. GPT-6.2 Astra는 두 코어의 RTL 최적화 과제에서 평균 점수가 가장 높았다. '요구사항으로 코어 작성' 과제에서는 PicoRV32 평균이 0.7을 넘었고 Ibex는 약 0.75였다.

OpenAI는 이 실험의 결함도 적었다. 요구사항에서 출발한 모델은 원본 코어에 있던 성능 카운터나 확장 명령어 같은 기능을 빠뜨리기도 하는데, 이런 기능은 테스트 부하의 처리량에는 큰 도움이 되지 않는다. 따라서 '요구사항으로 코어 작성' 점수가 높게 나온 데는 기능 누락이 일부 작용했을 수 있다. 회사가 제시한 보완책은 이런 기능을 필수 항목으로 지정하고, 면적 상한을 더 조이며, 물리 합성 이후 타이밍을 다시 점검하는 것이다.

여러 시점을 이어서 보면

지난 1년간 OpenAI의 하드웨어 행보는 속도가 매우 빠르다. 6월에는 Broadcom과 Jalapeño를 공개하며 초기 설계에서 테이프아웃까지 약 9개월이 걸렸다고 밝혔다. 8월에는 실리콘 결과를 발표했고, 9월 30일에는 Synopsys와 공동 개발, 시장 공략, 수익 배분을 아우르는 다년 계약을 맺었다. 이번 보고서에서 양사는 한 걸음 더 나아가 GPT-Synopsys 훈련을 발표했다. 숙련된 엔지니어처럼 모델이 EDA 도구를 조작해 PPA 최적화부터 타이밍·검증 수렴까지 진행하고, 마지막 단계에서 엔지니어가 검토한다는 구상이다.

Synopsys는 고객의 설계 데이터를 GPT-Synopsys 훈련에 쓰지 않으며, 데이터는 저장과 전송 과정에서 암호화되고 보존 기간·감사·권한을 설정할 수 있다고 밝혔다. 설계 데이터는 칩 기업에 가장 민감한 자산이다. 이 약속이 우려를 덜어줄 수 있을지는 앞으로 얼마나 많은 고객이 RTL을 이 도구에 맡기느냐에 달렸다.

현재 모든 수치는 OpenAI 한쪽에서 나온 것이다. 14%가 어떤 모듈에 해당하는지, AMD의 어느 세대 제품과 대응하는지는 공개 자료에 나와 있지 않으며 제3자의 재현도 아직 없다.

참고 출처: OpenAI 칩 설계 보고서, The Decoder, CocoLoop, Unite.AI. AMD 플래그십 GPU IP의 PPA 향상폭, Jalapeño 유닛별 면적 감소율, RISC-V 실험 실행 횟수를 확인했다.