La huella de carbono de ChatGPT: lo que dice la investigación

Una consulta a ChatGPT consume entre 10 y 20 veces más energía que una búsqueda en Google, según estimaciones publicadas por investigadores independientes y recogidas en medios especializados a lo largo de 2023. La cifra exacta depende del modelo usado (GPT-3.5 o GPT-4), la longitud de la respuesta y la fuente de energía del centro de datos. Pero la tendencia es clara: la IA generativa es más cara energéticamente que los servicios digitales que ha ido sustituyendo.

El coste energético de entrenar y usar un LLM

La huella de carbono de un modelo de lenguaje grande (LLM) tiene dos componentes distintos: el entrenamiento y la inferencia. El entrenamiento es el proceso más intensivo: GPT-3, con 175.000 millones de parámetros, consumió aproximadamente 1.287 MWh de electricidad y produjo unas 552 toneladas de CO2 equivalente, según el paper de OpenAI de 2020 y estudios posteriores. GPT-4, con una arquitectura más grande y compleja, se estima que superó ampliamente esa cifra, aunque OpenAI no ha publicado datos oficiales de entrenamiento para GPT-4.

La inferencia, es decir cada consulta individual, consume mucho menos que el entrenamiento, pero se repite cientos de millones de veces al día. Investigadores de la Universidad de Massachusetts estiman que una búsqueda en Google consume unos 0,0003 kWh, mientras que una consulta a ChatGPT consume en torno a 0,003 kWh, diez veces más. Multiplicado por el volumen de uso de ChatGPT (más de 10 millones de consultas diarias en sus primeros meses), el impacto agregado es notable. Si quieres comparar: Google ha publicado datos del consumo real de Gemini, que dan contexto a estas estimaciones.

Qué hace OpenAI para reducir su huella

OpenAI ejecuta sus modelos en Azure, la nube de Microsoft. Microsoft ha hecho pública su hoja de ruta de neutralidad de carbono y ya utiliza energía renovable en una parte significativa de sus centros de datos. OpenAI no ha publicado un informe de sostenibilidad propio, así que sus compromisos ambientales dependen en parte de los de su proveedor de infraestructura.

A nivel técnico, las mejoras en eficiencia van en paralelo: los modelos más recientes de OpenAI ofrecen mejor rendimiento por token, lo que puede traducirse en respuestas más cortas y menos ciclos de GPU para la misma tarea. Las redes neuronales diseñadas con técnicas de compresión (cuantización, destilación, poda) consumen significativamente menos que los modelos base completos sin perder demasiada precisión. Y también hay que mencionar a empresas como Schneider Electric que apuestan por integrar IA en la gestión de energía para hacer más eficientes los propios centros de datos.

El problema que viene: los centros de datos de IA

La Agencia Internacional de la Energía (AIE) estimó en 2023 que el consumo eléctrico de los centros de datos de IA podía duplicarse para 2026 y alcanzar niveles similares al consumo anual de un país como Japón. No es un problema único de ChatGPT: Gemini, Copilot, Claude y el resto de modelos en producción comparten la misma infraestructura intensiva. El debate de fondo es si el ritmo de mejora en eficiencia energética será suficiente para compensar el crecimiento del uso.

Preguntas frecuentes sobre la huella de carbono de ChatGPT

¿Cuánta energía consume una consulta a ChatGPT?
Según estimaciones de investigadores, entre 0,002 y 0,01 kWh por consulta, unas 10-20 veces más que una búsqueda en Google. El dato exacto varía según el modelo (GPT-3.5 o GPT-4) y la longitud de la respuesta.

¿Cuánto CO2 produjo el entrenamiento de GPT-3?
Aproximadamente 552 toneladas de CO2 equivalente, con un consumo de unos 1.287 MWh durante el proceso de entrenamiento, según datos publicados por OpenAI en 2020 y estudios académicos posteriores. GPT-4 no tiene cifras oficiales publicadas.

¿OpenAI usa energía renovable?
OpenAI opera sobre Azure (Microsoft). Microsoft tiene compromisos públicos de usar energía 100% renovable antes de 2030 y ya alimenta una parte significativa de sus centros de datos con ella. OpenAI no ha publicado un informe de sostenibilidad propio a fecha de diciembre de 2023.

¿La IA generativa será más eficiente con el tiempo?
Probablemente sí, por la mejora de los chips (más FLOPS por vatio), la compresión de modelos y la optimización de los centros de datos. El problema es que el crecimiento del uso puede superar las ganancias de eficiencia, como ha ocurrido histróricamente con otras tecnologías digitales.

Scroll al inicio