대규모 AI 모델의 에너지 소비는 무시할 수 없는 문제가 되고 있다.
훈련 비용
대규모 모델 훈련의 전력 소비는 엄청나다. GPT-4 수준의 모델을 기준으로:
- 단일 훈련에 소비되는 전력량은 미국 가정 수백 가구의 연간 사용량에 해당한다
- 마이크로소프트, 구글, 메타의 AI 데이터센터 건설은 전 세계 데이터센터 에너지 소비 비중을 높이고 있다
더 무서운 것은 추론 측면이다. 훈련은 한 번이지만 추론은 지속적이다. 전 세계에서 매일 수억 건의 AI 호출이 발생하며, 누적 추론 에너지 소비는 이미 훈련을 넘어섰을 수 있다.
각 기업의 대응
마이크로소프트는 대량의 재생에너지 구매 계약을 체결했으며, 데이터센터에 전력을 공급하기 위한 소형 원자로도 검토하고 있다.
구글은 AI 관련 운영을 100% 무탄소 에너지로 운영하겠다고 약속했지만, 실제 실행에서 '탄소 중립'과 '진정한 무탄소' 사이에는 큰 차이가 있다.
딥시크의 접근 방식은 다른 관점을 제시한다. 더 많은 GPU로 무식하게 훈련하는 대신, 더 똑똑한 방법(MoE, FP8, 더 효율적인 아키텍처)으로 계산량 자체를 줄이는 것이다. 550만 달러로 최고 수준의 모델을 훈련하는 방식은 에너지 관점에서도 가장 친환경적이다.
모순
AI의 에너지 문제와 AI 발전 속도 사이에는 근본적인 모순이 존재한다:
- 모델이 크고 성능이 좋을수록 에너지 소비가 높아진다
- 사용자의 AI 의존도가 깊어질수록 추론 요청이 늘어난다
- 데이터센터 건설 속도가 AI 컴퓨팅 수요 증가를 따라잡지 못한다
일부 연구자들은 2030년까지 AI 관련 전력 소비가 세계 총 전력 사용량의 3-5%를 차지할 수 있다고 예측한다. 이 숫자는 작아 보이지만 절대량은 매우 크다.
효율 최적화(양자화, 증류, MoE 등)가 현재 가장 현실적인 해결책이다. 재생에너지만으로 AI 에너지 소비를 완전히 충당하는 것은 중단기적으로 현실적이지 않다.
출처: IEA 데이터센터 에너지 소비 보고서, CocoLoop, 각 기업의 지속가능성 보고서