Hiệp hội Công nghiệp Bán dẫn Mỹ (SIA) và Deloitte đã đưa ra một con số rõ ràng cho cơn sốt hạ tầng AI: trong một rack máy chủ AI tiên tiến, hơn 95% giá trị đến từ chip. Báo cáo ngày 1 tháng 6 đã “tháo rời” ảo một rack hiện đại và đếm được hơn 4.500 chip đã đóng gói bên trong.
Báo cáo ước tính chip chiếm hơn một nửa tổng chi tiêu vốn của trung tâm dữ liệu. Đến năm 2028, doanh thu hằng năm từ chip cho trung tâm dữ liệu AI có thể đạt 1,2 nghìn tỷ USD, gần gấp 10 lần trong bốn năm; tổng chi tiêu hạ tầng trung tâm dữ liệu toàn cầu có thể khoảng 4 nghìn tỷ USD, trong đó tối đa 2,8 nghìn tỷ USD vào bán dẫn.
Thông điệp chính là không thể chỉ nói AI chip như GPU. Logic, bộ nhớ, mạng, quản lý điện năng và đóng gói tiên tiến đều quyết định trung tâm dữ liệu có đủ năng lực tính toán hay không. CEO SIA John Neuffer nói tương lai AI sẽ do toàn bộ dải công nghệ bán dẫn cung cấp năng lượng cho nó quyết định.
Vì vậy, cuộc đua hạ tầng AI thực chất là cuộc đua bán dẫn toàn bộ chuỗi. GPU vẫn là phần dễ thấy nhất, nhưng HBM, liên kết, đóng gói và linh kiện điện mới quyết định rack AI có chạy được ở quy mô lớn hay không.
Nguồn tham khảo: Semiconductor Industry Association, InfotechLead, CocoLoop.