Der Energieverbrauch großer KI-Modelle wird zu einem nicht zu ignorierenden Problem.
Trainingskosten
Der Stromverbrauch beim Training großer Modelle ist enorm. Am Beispiel eines Modells der GPT-4-Klasse:
- Der Stromverbrauch für ein einziges Training entspricht dem Jahresverbrauch mehrerer hundert amerikanischer Haushalte
- Der Bau von KI-Rechenzentren durch Microsoft, Google und Meta treibt den weltweiten Energieverbrauch von Rechenzentren in die Höhe
Noch besorgniserregender ist die Inferenz. Das Training ist einmalig, aber die Inferenz ist kontinuierlich. Hunderte Millionen KI-Aufrufe weltweit pro Tag summieren sich zu einem kumulierten Inferenz-Energieverbrauch, der den des Trainings bereits überstiegen haben könnte.
Reaktionen der Unternehmen
Microsoft hat zahlreiche Verträge über den Kauf erneuerbarer Energien abgeschlossen und erforscht sogar den Einsatz kleiner Kernreaktoren zur Stromversorgung von Rechenzentren.
Google hat zugesagt, den KI-bezogenen Betrieb zu 100 % mit kohlenstofffreier Energie zu betreiben, aber in der Praxis klafft eine große Lücke zwischen "CO2-Neutralität" und "wirklich kohlenstofffrei".
Der Ansatz von DeepSeek bietet eine andere Perspektive – anstatt mit mehr GPUs gewaltsam zu trainieren, sollte man mit intelligenteren Methoden (MoE, FP8, effizientere Architekturen) die Rechenlast selbst reduzieren. Die Methode, ein Top-Modell für 5,5 Millionen Dollar zu trainieren, ist aus energetischer Sicht auch die umweltfreundlichste.
Widerspruch
Es besteht ein grundlegender Widerspruch zwischen dem Energieverbrauchsproblem der KI und der Entwicklungsgeschwindigkeit der KI:
- Je größer das Modell und je leistungsfähiger es ist, desto höher ist der Energieverbrauch
- Je stärker die Nutzer auf KI angewiesen sind, desto mehr Inferenzanfragen gibt es
- Die Baugeschwindigkeit von Rechenzentren hält nicht mit der Wachstumsrate des KI-Rechenbedarfs Schritt
Einige Forscher prognostizieren, dass der KI-bezogene Stromverbrauch bis 2030 3-5 % des weltweiten Gesamtstromverbrauchs ausmachen könnte. Diese Zahl klingt nicht groß, aber der absolute Betrag ist sehr beträchtlich.
Effizienzoptimierung (Quantisierung, Destillation, MoE usw.) ist derzeit die realistischste Lösung. Sich vollständig auf erneuerbare Energien zu verlassen, um den KI-Energieverbrauch zu decken, ist kurz- bis mittelfristig nicht realistisch.
Quellen: IEA-Bericht zum Energieverbrauch von Rechenzentren, CocoLoop, Nachhaltigkeitsberichte der Unternehmen