Epoch AI modela la capacidad mundial de inferencia de IA, con tamaño de modelo y longitud de contexto fijos, creciendo hasta 3,4 veces la del año anterior — pero sitúa el crecimiento de la demanda de tokens en unas 10 veces la del año anterior, tres veces más rápido que la oferta

Epoch AI modela la capacidad de inferencia de IA del mundo, con un tamaño de modelo y una longitud de contexto fijos, como un crecimiento de 3,4 veces al año. Esto se basa en un análisis del crecimiento de la capacidad de cómputo y el ancho de banda de la memoria. Sin embargo, los indicadores de la demanda de tokens, como los tokens procesados por Google y todos los proveedores, sugieren que la demanda está creciendo alrededor de 10 veces al año.