Model OpenAI tingkatkan desain GPU unggulan AMD hingga 14%

Model OpenAI tingkatkan desain GPU unggulan AMD hingga 14%

Pada 18 November, OpenAI merilis laporan desain chip yang menyebut modelnya terlibat dalam dua jenis pekerjaan perangkat keras: Jalapeño, chip inferensi buatan sendiri, dan optimasi modul desain GPU unggulan bersama AMD. Menurut perusahaan, pada IP GPU unggulan AMD, perubahan yang diusulkan model menaikkan metrik gabungan daya, kinerja, dan area (di industri disebut PPA) hingga 14% dibanding "baseline yang sangat dioptimalkan". Pengerjaannya memakan waktu kurang dari lima bulan, dan sebagian perubahan sudah masuk ke desain yang dikirim ke pabrik untuk diproduksi.

OpenAI merangkum hasil ini sebagai "kemajuan sekitar satu tahun dalam waktu kurang dari lima bulan". Itu adalah klaim perusahaan sendiri; dalam pemberitaan publik, AMD belum memberikan pernyataan terukur secara terpisah.

Yang diubah model adalah kode RTL

Menurut media yang mengutip laporan tersebut, model menulis ulang RTL, yaitu kode yang menggambarkan rangkaian chip, yang ditulis dalam SystemVerilog. Setiap penulisan ulang diverifikasi dengan perangkat Synopsys untuk memastikan perilaku modul tidak berubah, baru kemudian trade-off PPA dievaluasi. Selain desain GPU yang dikirim ke pabrik, AMD juga memasukkan sebagian perubahan lain ke berkas desain produksi versi berikutnya, dan memvalidasi peningkatan PPA satu digit persen pada beberapa modul kunci sebuah CPU unggulan generasi berikutnya.

Angka di sisi Jalapeño lebih terperinci. Perubahan yang diusulkan model mengurangi luas standard cell pada warp engine (unit vektor) sekitar 13% dan pada unit matriks sekitar 10%. Di unit matriks, pengali yang didesain ulang memakai luas sel sekitar 15% lebih kecil pada tahap sintesis, dengan latensi turun dari dua siklus menjadi satu; penjumlah juga berkurang sekitar 15% luasnya, dengan latensi tetap dua siklus. OpenAI menyatakan optimasi ini terverifikasi pada tahap chip pertama kali dinyalakan.

Laporan itu juga melampirkan sejumlah eksperimen RISC-V: lima generasi model diminta mengoptimalkan dua inti prosesor 32-bit sumber terbuka, PicoRV32 dan Ibex, atau menulis seluruh inti langsung dari kebutuhan tertulis. Totalnya ada 9.881 kali eksekusi bernilai, dan simulasi yang gagal atau luas yang melebihi 16 kali inti asli langsung diberi nilai nol. GPT-6.2 Astra meraih skor rata-rata tertinggi pada tugas optimasi RTL untuk kedua inti; pada tugas "menulis inti dari kebutuhan", skor rata-ratanya di atas 0,7 untuk PicoRV32 dan sekitar 0,75 untuk Ibex.

OpenAI juga menuliskan kelemahan eksperimen ini: model yang berangkat dari kebutuhan kadang menghilangkan fitur yang ada di inti asli, seperti penghitung kinerja dan instruksi ekstensi, yang tidak banyak membantu throughput pada beban uji. Karena itu skor "menulis inti dari kebutuhan" yang tinggi mungkin sebagian berasal dari fitur yang hilang. Perbaikan yang diusulkan perusahaan adalah menjadikan fitur tersebut wajib, memperketat batas atas area, dan memeriksa ulang timing setelah sintesis fisik.

Menghubungkan beberapa titik

Jika dilihat sepanjang setahun terakhir, langkah perangkat keras OpenAI berjalan sangat rapat. Pada Juni, perusahaan mengumumkan Jalapeño bersama Broadcom dan menyebut waktu sekitar sembilan bulan dari desain awal hingga tape-out; Agustus, hasil silikon diumumkan; pada 30 September, OpenAI meneken kesepakatan multitahun dengan Synopsys yang mencakup pengembangan bersama, pemasaran, dan bagi hasil pendapatan. Dalam laporan kali ini, kedua pihak mengumumkan langkah lanjutan, yakni melatih GPT-Synopsys, model yang mengoperasikan perangkat EDA seperti insinyur senior, dari optimasi PPA hingga konvergensi timing dan verifikasi, dengan insinyur meninjau di tahap akhir.

Synopsys menyatakan data desain pelanggan tidak akan dipakai untuk melatih GPT-Synopsys, data dienkripsi saat disimpan dan dikirim, dan masa retensi, audit, serta hak akses dapat dikonfigurasi. Data desain adalah aset paling sensitif bagi perusahaan chip; apakah janji ini cukup meredakan kekhawatiran akan bergantung pada seberapa banyak pelanggan yang bersedia menyerahkan RTL mereka ke perangkat ini.

Saat ini semua angka berasal dari satu pihak, yaitu OpenAI. Pada modul mana saja angka 14% itu jatuh dan sesuai dengan produk AMD generasi mana tidak diungkap dalam materi publik, dan belum ada pihak ketiga yang mereproduksinya.

Sumber: laporan desain chip OpenAI, The Decoder, CocoLoop, Unite.AI; telah dicek: besaran peningkatan PPA pada IP GPU unggulan AMD, pengurangan area tiap unit Jalapeño, dan jumlah eksekusi eksperimen RISC-V.