Epoch AI modeló el presupuesto energético de un centro de datos de IA de vanguardia basado en la arquitectura GB200 de Nvidia, y descubrió que las propias GPU -- la parte en la que todos piensan al imaginar 'cómputo de IA' -- representan solo cerca del 40% de la potencia total en el pico

Epoch AI estimó el consumo de energía de las GPUs en los centros de datos de IA de frontera en operación pico. Su análisis, basado en arquitecturas de referencia y especificaciones para sistemas NVIDIA GB200, encontró que las GPUs representan aproximadamente el 40% de la energía total de la instalación. La energía restante es utilizada por otros equipos de TI, refrigeración, iluminación y pérdidas por conversión de energía.