Mức tiêu thụ năng lượng của các mô hình AI lớn đang trở thành một vấn đề không thể bỏ qua.
Chi phí huấn luyện
Mức tiêu thụ điện năng cho việc huấn luyện các mô hình lớn là vô cùng lớn. Lấy mô hình cấp độ GPT-4 làm tham chiếu:
- Lượng điện tiêu thụ cho một lần huấn luyện tương đương với vài trăm hộ gia đình Mỹ tiêu thụ trong một năm
- Việc xây dựng các trung tâm dữ liệu AI của Microsoft, Google, Meta đang đẩy tỷ trọng tiêu thụ năng lượng của các trung tâm dữ liệu trên toàn cầu lên cao
Đáng lo ngại hơn là khâu suy luận. Huấn luyện chỉ diễn ra một lần, nhưng suy luận diễn ra liên tục. Hàng trăm triệu lượt gọi AI trên toàn cầu mỗi ngày, lượng năng lượng suy luận tích lũy có thể đã vượt quá lượng năng lượng huấn luyện.
Phản ứng của các công ty
Microsoft đã ký rất nhiều thỏa thuận mua năng lượng tái tạo, thậm chí đang khám phá việc sử dụng lò phản ứng hạt nhân nhỏ để cung cấp điện cho các trung tâm dữ liệu.
Google cam kết 100% sử dụng năng lượng không carbon cho các hoạt động liên quan đến AI, nhưng trên thực tế, có một khoảng cách lớn giữa "trung hòa carbon" và "thực sự không carbon".
Hướng đi của DeepSeek lại đưa ra một góc nhìn khác – thay vì sử dụng nhiều GPU hơn để huấn luyện theo kiểu vũ lực, hãy sử dụng các phương pháp thông minh hơn (MoE, FP8, kiến trúc hiệu quả hơn) để giảm khối lượng tính toán. Cách làm huấn luyện một mô hình hàng đầu với 5,5 triệu đô la, xét từ góc độ năng lượng, cũng là thân thiện với môi trường nhất.
Mâu thuẫn
Có một mâu thuẫn cơ bản giữa vấn đề tiêu thụ năng lượng của AI và tốc độ phát triển của AI:
- Mô hình càng lớn, khả năng càng mạnh, mức tiêu thụ năng lượng càng cao
- Người dùng càng phụ thuộc vào AI, số lượng yêu cầu suy luận càng nhiều
- Tốc độ xây dựng trung tâm dữ liệu không theo kịp tốc độ tăng trưởng nhu cầu sức mạnh tính toán AI
Một số nhà nghiên cứu dự đoán, đến năm 2030, mức tiêu thụ điện năng liên quan đến AI có thể chiếm 3-5% tổng lượng điện tiêu thụ toàn cầu. Con số này nghe có vẻ không lớn, nhưng giá trị tuyệt đối là rất đáng kể.
Tối ưu hóa hiệu suất (lượng tử hóa, chưng cất, MoE, v.v.) hiện là giải pháp thực tế nhất. Việc hoàn toàn dựa vào năng lượng tái tạo để trang trải mức tiêu thụ năng lượng AI là không thực tế trong trung và ngắn hạn.
Nguồn tham khảo: Báo cáo tiêu thụ năng lượng trung tâm dữ liệu của IEA, CocoLoop, báo cáo phát triển bền vững của các công ty