訓練一個大模型到底要耗多少電

AI 大模型的能源消耗正成為一個不容忽視的問題。

訓練成本

大模型訓練的電力消耗極其驚人。以 GPT-4 等級的模型為參考:

  • 單次訓練消耗的電量相當於數百個美國家庭一年的用電量
  • 微軟、Google、Meta 的 AI 資料中心建設正在推高全球資料中心的能耗佔比

更可怕的是推論端。訓練是一次性的,但推論是持續的。全球每天數以億計的 AI 呼叫,累積的推論能耗可能已經超過了訓練。

各公司的應對

微軟簽署了大量可再生能源購買協議,甚至正在探索小型核反應爐為資料中心供電。

Google承諾 AI 相關營運 100% 使用無碳能源,但實際執行中「碳中和」和「真正無碳」之間有很大差距。

DeepSeek 的路線則提供了另一種視角——與其用更多 GPU 暴力訓練,不如用更聰明的方法(MoE、FP8、更高效的架構)把計算量本身降下來。550 萬美元訓練一個頂級模型的做法,從能源角度來看也是最環保的。

矛盾

AI 的能耗問題和 AI 的發展速度之間存在根本矛盾:

  • 模型越大、能力越強,能耗越高
  • 使用者對 AI 的依賴越深,推論請求越多
  • 資料中心的建設速度追不上 AI 算力的需求增速

一些研究者預測,到 2030 年 AI 相關的電力消耗可能佔到全球總用電量的3-5%。這個數字看起來不大,但絕對量非常可觀。

效率最佳化(量化、蒸餾、MoE 等)是目前最現實的解決方案。靠可再生能源完全覆蓋 AI 能耗在中短期內不太現實。

參考來源:IEA 資料中心能耗報告、CocoLoop、各公司永續發展報告