Mô hình OpenAI giúp GPU đầu bảng AMD tăng hiệu năng 14%

Mô hình OpenAI giúp GPU đầu bảng AMD tăng hiệu năng 14%

Ngày 18/11, OpenAI công bố một báo cáo về thiết kế chip, cho biết mô hình của hãng tham gia hai mảng phần cứng: chip suy luận tự phát triển Jalapeño, và việc hợp tác với AMD để tối ưu các mô-đun thiết kế của GPU đầu bảng. Theo lời công ty, trên IP GPU đầu bảng của AMD, các thay đổi do mô hình đề xuất giúp chỉ số tổng hợp ba mặt điện năng, hiệu năng và diện tích (giới ngành gọi chung là PPA) tăng tối đa 14% so với “đường cơ sở đã tối ưu cao”. Toàn bộ quá trình mất chưa đến năm tháng, và một số thay đổi đã nằm trong thiết kế gửi đi sản xuất.

OpenAI tóm tắt kết quả này là “đạt tiến độ tương đương khoảng một năm chỉ trong chưa đầy năm tháng”. Đây là cách tính của chính công ty; trong các bài báo công khai, AMD chưa đưa ra phát biểu định lượng riêng.

Mô hình sửa mã RTL

Theo các bài báo thuật lại nội dung báo cáo, mô hình làm việc bằng cách viết lại RTL, tức là phần mã mô tả mạch điện của chip, viết bằng SystemVerilog. Mỗi lần viết lại đều phải được kiểm chứng bằng công cụ của Synopsys để bảo đảm hành vi của mô-đun không đổi, rồi mới đánh giá sự đánh đổi về PPA. Ngoài thiết kế GPU đã gửi đi sản xuất, AMD còn đưa một phần thay đổi khác vào tệp thiết kế sản xuất của các phiên bản sau, đồng thời xác nhận mức cải thiện PPA ở mức một chữ số phần trăm trên một số mô-đun then chốt của một CPU đầu bảng thế hệ kế tiếp.

Phía Jalapeño có số liệu chi tiết hơn. Các thay đổi do mô hình đề xuất làm diện tích tế bào chuẩn của warp engine (đơn vị vector) giảm khoảng 13%, còn đơn vị ma trận giảm khoảng 10%. Trong đó, bộ nhân của đơn vị ma trận sau khi thiết kế lại giảm khoảng 15% diện tích tế bào ở giai đoạn tổng hợp, độ trễ rút từ hai chu kỳ xuống một; bộ cộng cũng giảm khoảng 15% diện tích, độ trễ giữ nguyên hai chu kỳ. OpenAI cho biết các tối ưu này đã được xác nhận ở giai đoạn chip được cấp điện lần đầu.

Báo cáo còn kèm một loạt thí nghiệm RISC-V: cho năm thế hệ mô hình tối ưu hai lõi xử lý 32 bit mã nguồn mở là PicoRV32 và Ibex, hoặc viết nguyên cả lõi từ yêu cầu bằng văn bản, tổng cộng 9.881 lượt chạy chấm điểm; bài nào mô phỏng không đạt hoặc diện tích vượt 16 lần lõi gốc thì bị tính 0 điểm. GPT-6.2 Astra có điểm trung bình cao nhất ở cả hai lõi trong tác vụ tối ưu RTL; ở tác vụ “viết lõi từ yêu cầu”, điểm trung bình của nó vượt 0,7 với PicoRV32 và khoảng 0,75 với Ibex.

OpenAI cũng nêu rõ khiếm khuyết của loạt thí nghiệm này: mô hình xuất phát từ yêu cầu đôi khi bỏ sót những chức năng có trong lõi gốc như bộ đếm hiệu năng và lệnh mở rộng, vốn đóng góp không đáng kể cho thông lượng của tải thử nghiệm, nên điểm của tác vụ “viết lõi từ yêu cầu” có thể cao một phần nhờ thiếu chức năng. Cách khắc phục công ty đưa ra là coi các chức năng đó là bắt buộc, siết chặt giới hạn diện tích, và kiểm tra lại thời gian (timing) sau khi tổng hợp vật lý.

Đặt các mốc cạnh nhau

Nhìn theo trục thời gian, nhịp độ hoạt động phần cứng của OpenAI trong năm qua rất dày. Tháng 6, hãng cùng Broadcom công bố Jalapeño, nói từ thiết kế ban đầu đến tape-out mất khoảng chín tháng; tháng 8 công bố kết quả silicon; ngày 30/9 ký thỏa thuận nhiều năm với Synopsys, bao gồm phát triển chung, tiếp thị và chia sẻ doanh thu. Trong báo cáo lần này, hai bên tiếp tục tuyên bố sẽ huấn luyện GPT-Synopsys, để mô hình vận hành công cụ EDA như một kỹ sư lão luyện, từ tối ưu PPA cho đến hội tụ về thời gian và xác minh, còn kỹ sư rà soát ở khâu cuối.

Phía Synopsys cho biết dữ liệu thiết kế của khách hàng sẽ không được dùng để huấn luyện GPT-Synopsys; dữ liệu được mã hóa khi lưu trữ và truyền tải, còn thời hạn lưu giữ, kiểm toán và phân quyền đều có thể cấu hình. Dữ liệu thiết kế là tài sản nhạy cảm nhất của các công ty chip, và cam kết này có xua tan được e ngại hay không còn tùy vào việc sau này có bao nhiêu khách hàng sẵn sàng giao RTL cho bộ công cụ này.

Hiện tại, mọi con số đều đến từ phía OpenAI. Mức 14% cụ thể rơi vào những mô-đun nào, ứng với thế hệ sản phẩm nào của AMD thì tài liệu công khai không tiết lộ, và cũng chưa có bên thứ ba nào tái lập kết quả.

Nguồn tham khảo: báo cáo thiết kế chip của OpenAI, The Decoder, CocoLoop, Unite.AI; đã đối chiếu mức tăng PPA trên IP GPU đầu bảng của AMD, mức giảm diện tích từng đơn vị của Jalapeño và số lượt chạy trong thí nghiệm RISC-V.