Quelle quantité d'électricité faut-il pour entraîner un grand modèle d'IA ?

La consommation énergétique des grands modèles d'IA devient un problème qui ne peut être ignoré.

Coûts d'entraînement

La consommation d'électricité pour l'entraînement des grands modèles est extrêmement impressionnante. En prenant comme référence un modèle de niveau GPT-4 :

  • La consommation d'électricité pour un seul entraînement équivaut à la consommation annuelle de plusieurs centaines de foyers américains
  • La construction de centres de données d'IA par Microsoft, Google et Meta augmente la part mondiale de la consommation énergétique des centres de données

Plus inquiétante encore est la phase d'inférence. L'entraînement est unique, mais l'inférence est continue. Des centaines de millions d'appels d'IA par jour dans le monde accumulent une consommation d'énergie d'inférence qui pourrait déjà avoir dépassé celle de l'entraînement.

Réponses des entreprises

Microsoft a signé un grand nombre d'accords d'achat d'énergie renouvelable et explore même l'utilisation de petits réacteurs nucléaires pour alimenter les centres de données.

Google s'est engagé à ce que ses opérations liées à l'IA utilisent 100 % d'énergie sans carbone, mais dans la pratique, il existe un écart important entre la "neutralité carbone" et le "véritablement sans carbone".

L'approche de DeepSeek offre une perspective différente – au lieu d'utiliser plus de GPU pour un entraînement par force brute, utilisez des méthodes plus intelligentes (MoE, FP8, architectures plus efficaces) pour réduire la charge de calcul elle-même. La pratique consistant à entraîner un modèle de premier plan pour 5,5 millions de dollars, du point de vue énergétique, est également la plus écologique.

Contradiction

Il existe une contradiction fondamentale entre le problème de la consommation énergétique de l'IA et la vitesse de développement de l'IA :

  • Plus le modèle est grand et performant, plus la consommation d'énergie est élevée
  • Plus les utilisateurs dépendent de l'IA, plus les demandes d'inférence sont nombreuses
  • La vitesse de construction des centres de données ne suit pas le rythme de croissance de la demande en puissance de calcul de l'IA

Certains chercheurs prédisent que d'ici 2030, la consommation d'électricité liée à l'IA pourrait représenter 3 à 5 % de la consommation totale mondiale d'électricité. Ce chiffre semble faible, mais la quantité absolue est très significative.

L'optimisation de l'efficacité (quantification, distillation, MoE, etc.) est actuellement la solution la plus réaliste. Compter entièrement sur les énergies renouvelables pour couvrir la consommation énergétique de l'IA n'est pas réaliste à court et moyen terme.

Sources de référence : Rapport de l'AIE sur la consommation énergétique des centres de données, CocoLoop, rapports de développement durable des entreprises