¿Cuánta electricidad se necesita para entrenar un gran modelo de IA?

El consumo de energía de los grandes modelos de IA se está convirtiendo en un problema que no se puede ignorar.

Costos de entrenamiento

El consumo de electricidad para entrenar modelos grandes es extremadamente impactante. Tomando como referencia un modelo de nivel GPT-4:

  • El consumo de electricidad para un solo entrenamiento equivale al consumo anual de varios cientos de hogares estadounidenses
  • La construcción de centros de datos de IA por parte de Microsoft, Google y Meta está elevando la participación global del consumo de energía de los centros de datos

Más preocupante es la fase de inferencia. El entrenamiento es único, pero la inferencia es continua. Cientos de millones de llamadas de IA al día en todo el mundo acumulan un consumo de energía de inferencia que ya podría haber superado al del entrenamiento.

Respuestas de las empresas

Microsoft ha firmado una gran cantidad de acuerdos de compra de energía renovable, e incluso está explorando pequeños reactores nucleares para alimentar centros de datos.

Google se ha comprometido a que sus operaciones relacionadas con la IA utilicen energía 100% libre de carbono, pero en la práctica existe una gran brecha entre la "neutralidad de carbono" y "verdaderamente libre de carbono".

El enfoque de DeepSeek ofrece una perspectiva diferente: en lugar de usar más GPU para un entrenamiento por fuerza bruta, use métodos más inteligentes (MoE, FP8, arquitecturas más eficientes) para reducir la carga computacional en sí misma. La práctica de entrenar un modelo de primer nivel por 5,5 millones de dólares, desde el punto de vista energético, también es la más ecológica.

Contradicción

Existe una contradicción fundamental entre el problema del consumo de energía de la IA y la velocidad de desarrollo de la IA:

  • Cuanto más grande y capaz es el modelo, mayor es el consumo de energía
  • Cuanto más dependen los usuarios de la IA, más solicitudes de inferencia se realizan
  • La velocidad de construcción de centros de datos no sigue el ritmo de la tasa de crecimiento de la demanda de potencia computacional de IA

Algunos investigadores predicen que, para 2030, el consumo de electricidad relacionado con la IA podría representar el 3-5% del consumo total mundial de electricidad. Esta cifra parece pequeña, pero la cantidad absoluta es muy significativa.

La optimización de la eficiencia (cuantización, destilación, MoE, etc.) es actualmente la solución más realista. Depender completamente de la energía renovable para cubrir el consumo de energía de la IA no es realista a corto y mediano plazo.

Fuentes de referencia: Informe de consumo de energía de centros de datos de la AIE, CocoLoop, informes de sostenibilidad de las empresas