Microsoft專利:閒置顯卡幫忙訓練模型換點數

Microsoft專利:閒置顯卡幫忙訓練模型換點數

Microsoft在11月初公開了一項專利申請,構想是在使用者同意的前提下,趁電腦、手機閒置時把AI訓練任務派過去執行,再以現金、軟體商店點數或模型的優先使用權作為報酬。

這項專利名為「Opportunistic Micro-training on Edge Devices Using Spare GPU Utilization」(利用邊緣裝置閒置GPU的機會式微訓練),公開號為US-20260349820-A1,公開日期是11月5日。專利檢索服務Patentlyze最先注意到,隨後TechSpot、Insider Gaming等科技媒體跟進報導。

專利裡寫了什麼

依專利描述,參與的裝置須先取得使用者授權。系統會持續讀取裝置的CPU與GPU使用率、記憶體用量、溫度、功耗、顯示記憶體頻寬及運算佇列深度,藉此判斷這台裝置何時閒置、能釋出多少算力。

訓練任務會被拆成一個個「微任務」,依裝置的閒置程度與過往結果的準確率分配出去。專利示意圖中的訓練網路同時畫出伺服器、桌上型電腦與智慧型手機,也就是說手機同樣在考量範圍內。

專利還有一處細節:GPU忙碌或溫度偏高時,系統會降低檢查頻率,減少對使用者的干擾。專利稱,目的是避免拖慢應用程式、耗電過快或裝置過熱。

報酬方面寫了三種:金錢、軟體點數,或是使用自己參與訓練的那些模型。依Insider Gaming的解讀,拿這些算力來訓練模型的,可能是缺乏運算資源的第三方,由Microsoft居中撮合。

二十多年前就有人這麼做

把閒置電腦湊起來做運算,這個點子很老。史丹佛大學2000年啟動的Folding@home,讓志工用家裡的電腦模擬蛋白質摺疊;柏克萊的BOINC平台則把同一套做法推廣到天文、氣候等多項科學研究計畫。這些計畫靠志願精神,不付錢。

後來出現了付費版本。Salad這類平台依時數向遊戲玩家結算,租用他們閒置的顯示卡來跑推論與算圖;也有專案以加密貨幣獎勵提供算力的人。

Microsoft這項專利與它們的差異有兩點:一是運算的是模型訓練,對裝置之間的同步與結果驗證要求更高,專利中特別提到要依「結果準確性的信譽」來分配任務;二是Microsoft本身握有Windows、Xbox這類裝機量極大的入口,如果真的要做,冷啟動會比小型平台容易得多。

時機與疑問

這項專利冒出來的時間點相當微妙。就在幾天前,OpenAI執行長Sam Altman公開表示,記憶體放在家用電腦裡閒置「很糟糕」,更應該放進資料中心,這番話引來不少批評。記憶體與顯示卡產能被AI資料中心大量吃掉、消費級硬體因此漲價,是這一輪討論的背景。

專利也留下幾個空白:使用者資料與訓練資料如何隔離、一次會占用多少GPU、報酬如何折算,文件中都沒有詳述。Microsoft並未就這項專利公開回應,專利申請也不代表會成為產品。

參考來源:TechSpot、Insider Gaming、CocoLoop、美國專利商標局公開文件;查證項目為專利名稱、公開號、監測指標與報酬形式。