Đầu tháng 11, Microsoft công bố một đơn đăng ký sáng chế, trong đó hình dung việc giao các tác vụ huấn luyện AI cho máy tính và điện thoại khi chúng đang rảnh, với điều kiện người dùng đồng ý. Phần thù lao có thể là tiền mặt, điểm trong cửa hàng phần mềm hoặc quyền ưu tiên sử dụng mô hình.
Sáng chế có tên “Opportunistic Micro-training on Edge Devices Using Spare GPU Utilization” (huấn luyện vi mô theo cơ hội trên thiết bị biên, tận dụng GPU nhàn rỗi), số công bố US-20260349820-A1, ngày công bố là 5/11. Dịch vụ tra cứu sáng chế Patentlyze là nơi đầu tiên chú ý đến nó, sau đó các trang công nghệ như TechSpot và Insider Gaming đã đưa tin.
Nội dung của bằng sáng chế
Theo mô tả trong sáng chế, thiết bị tham gia trước hết phải được người dùng cho phép. Hệ thống liên tục đọc mức sử dụng CPU và GPU, dung lượng bộ nhớ đang dùng, nhiệt độ, mức tiêu thụ điện, băng thông bộ nhớ video và độ sâu hàng đợi tính toán, từ đó xác định khi nào thiết bị rảnh và có thể nhường ra bao nhiêu năng lực tính toán.
Tác vụ huấn luyện được chia thành từng “vi tác vụ”, phân phát theo mức độ rảnh của thiết bị và độ chính xác của các kết quả trước đó. Mạng huấn luyện trong sơ đồ minh họa của sáng chế vẽ cả máy chủ, máy tính để bàn lẫn điện thoại thông minh, tức là điện thoại cũng nằm trong phạm vi cân nhắc.
Sáng chế còn có một chi tiết khác: khi GPU đang bận hoặc nhiệt độ cao, hệ thống sẽ giảm tần suất kiểm tra để bớt làm phiền người dùng. Sáng chế nêu rõ cần tránh làm chậm ứng dụng, hao pin quá nhanh hoặc khiến thiết bị quá nóng.
Về thù lao, sáng chế nêu ba hình thức: tiền, điểm phần mềm, hoặc được dùng chính những mô hình mà mình đã góp sức huấn luyện. Theo cách diễn giải của Insider Gaming, bên dùng năng lực tính toán này để huấn luyện mô hình có thể là các bên thứ ba thiếu tài nguyên tính toán, còn Microsoft đứng giữa làm khâu kết nối.
Hơn hai mươi năm trước đã có người làm như vậy
Ý tưởng gom những máy tính nhàn rỗi lại để tính toán không hề mới. Folding@home do Stanford khởi động năm 2000 để tình nguyện viên dùng máy tính ở nhà mô phỏng quá trình gấp protein; nền tảng BOINC của Berkeley mở rộng cùng cách làm đó sang hàng loạt dự án khoa học như thiên văn và khí hậu. Các dự án này dựa vào tinh thần tình nguyện, không trả tiền.
Sau đó xuất hiện các phiên bản có trả phí. Những nền tảng như Salad thanh toán cho game thủ theo thời gian, thuê card đồ họa nhàn rỗi của họ để chạy suy luận và kết xuất hình ảnh; cũng có dự án dùng tiền mã hóa để thưởng cho người đóng góp năng lực tính toán.
Sáng chế của Microsoft khác những nền tảng đó ở hai điểm. Thứ nhất, thứ cần tính là huấn luyện mô hình, đòi hỏi cao hơn về đồng bộ giữa các thiết bị và kiểm chứng kết quả; sáng chế đặc biệt nhắc đến việc phân việc theo “độ tin cậy về tính chính xác của kết quả”. Thứ hai, bản thân Microsoft nắm các cửa ngõ như Windows và Xbox với lượng thiết bị cài đặt cực lớn, nên nếu thực sự triển khai, việc khởi động ban đầu sẽ dễ hơn nhiều so với các nền tảng nhỏ.
Thời điểm và những dấu hỏi
Thời điểm sáng chế xuất hiện khá tế nhị. Chỉ vài ngày trước, CEO OpenAI Sam Altman công khai nói rằng để bộ nhớ nằm không trong máy tính gia đình là “rất tệ”, nên đưa vào trung tâm dữ liệu thì hơn; phát biểu này gây ra không ít chỉ trích. Bối cảnh của đợt thảo luận này là năng lực sản xuất bộ nhớ và card đồ họa đang bị các trung tâm dữ liệu AI hút đi rất nhiều, khiến phần cứng tiêu dùng tăng giá.
Sáng chế cũng để lại vài khoảng trống: cách cách ly dữ liệu người dùng với dữ liệu huấn luyện, mỗi lần chiếm dụng bao nhiêu GPU, thù lao được quy đổi ra sao, tài liệu đều không nói rõ. Microsoft chưa phản hồi công khai về sáng chế này, và một đơn đăng ký sáng chế cũng không có nghĩa là sẽ trở thành sản phẩm.
Nguồn tham khảo: TechSpot, Insider Gaming, CocoLoop, tài liệu công bố của Cơ quan Sáng chế và Nhãn hiệu Hoa Kỳ; nội dung được kiểm chứng gồm tên sáng chế, số công bố, các chỉ số giám sát và hình thức thù lao.