Amazon descubre que la IA también puede disparar la factura: un proyecto con Claude superó el presupuesto un 860 %

Amazon está comprobando que el mayor reto de desplegar inteligencia artificial en el desarrollo de software no siempre es la calidad del código, sino el coste de ejecutarlo. Documentos internos revelan que varios proyectos impulsados con modelos de IA generativa acumularon importantes sobrecostes, incluido uno que terminó costando 1,8 millones de dólares, un 860 % más de lo presupuestado, debido al uso de Claude Sonnet para una tarea de programación considerada relativamente sencilla.

Las claves del sobrecoste de IA en Amazon en 20 segundos

  • Un proyecto basado en Claude Sonnet generó un sobrecoste de 1,8 millones de dólares, un 860 % por encima del presupuesto inicial.
  • Amazon detectó el problema cinco meses después de que comenzara el incremento del gasto.
  • Otros proyectos internos también registraron desviaciones de cientos de miles de dólares.
  • El caso refleja un nuevo desafío para las empresas: controlar el consumo de tokens y el coste real de los agentes de IA.

La información, adelantada por el Financial Times y recogida posteriormente por Tom’s Hardware, ofrece una de las primeras evidencias de cómo la adopción masiva de agentes de inteligencia artificial puede generar costes inesperados incluso en compañías con amplia experiencia en el desarrollo de software y servicios cloud.

Aunque las cantidades resultan poco significativas para una empresa que facturó más de 181.000 millones de dólares en su último trimestre, los documentos muestran un problema que podría afectar especialmente a organizaciones con presupuestos mucho más reducidos.

Un proyecto sencillo convertido en una factura millonaria

El caso más llamativo corresponde a un sistema que utilizaba Claude Sonnet para relacionar automáticamente información de autores con los listados de productos de Amazon.

Según la documentación interna citada por el Financial Times, el proyecto terminó acumulando un gasto adicional de 1,8 millones de dólares, una desviación del 860 % respecto al presupuesto previsto.

Lo más llamativo es que el incremento del consumo no fue detectado hasta aproximadamente cinco meses después de que comenzara a producirse.

Los documentos internos describen este tipo de situaciones como errores que anteriormente resultaban «trivialmente baratos», pero que con la llegada de los modelos de IA y el consumo masivo de tokens se han vuelto «catastróficamente caros».

El problema no fue un caso aislado

La documentación también recoge otros ejemplos de desviaciones presupuestarias.

Uno de ellos afectó al desarrollo de una herramienta destinada precisamente a realizar auditorías financieras, que terminó generando 541.000 dólares adicionales de gasto.

Otro proyecto relacionado con la optimización de la red logística de Amazon superó el presupuesto en 134.000 dólares.

Aunque las cifras varían entre proyectos, todas apuntan a un mismo fenómeno: el coste asociado al uso continuado de modelos de lenguaje y agentes de IA puede crecer rápidamente cuando no existen mecanismos de control sobre el consumo de tokens o las llamadas realizadas a los modelos.

Del coste fijo al pago por uso

Uno de los cambios más importantes en el desarrollo con inteligencia artificial durante los últimos dos años ha sido la transición desde modelos de suscripción relativamente previsibles hacia esquemas de facturación basados en el consumo.

En este modelo, cada interacción con un modelo de lenguaje implica un coste asociado al número de tokens procesados, tanto en las consultas como en las respuestas generadas.

Cuando estas operaciones se multiplican mediante agentes capaces de ejecutar tareas de forma autónoma, revisar código, lanzar nuevas consultas o encadenar múltiples razonamientos, el consumo puede aumentar mucho más deprisa de lo previsto.

El resultado es que proyectos inicialmente modestos pueden acabar consumiendo presupuestos completos en pocas semanas si no existen límites o sistemas de supervisión adecuados.

Amazon ya había detectado otros problemas con la IA

No es la primera vez que la compañía reconoce dificultades relacionadas con la integración de inteligencia artificial en sus procesos internos.

A principios de este año, Amazon Web Services (AWS) informó de varios incidentes provocados por errores cometidos por herramientas de programación asistida por IA. Como respuesta, la empresa redujo los permisos concedidos a estos agentes para evitar que tuvieran el mismo nivel de acceso que los ingenieros sénior.

Según el Financial Times, Amazon también eliminó un sistema interno que clasificaba a los empleados en función del uso que hacían de herramientas de IA, coincidiendo con el aumento de los costes asociados a estas tecnologías.

Productividad sí, pero con control del gasto

El caso también alimenta un debate cada vez más presente en la industria tecnológica.

Muchas compañías han impulsado el uso intensivo de inteligencia artificial con el objetivo de acelerar el desarrollo de software y mejorar la productividad de los equipos.

Sin embargo, varios directivos del sector han comenzado a cuestionar si ese incremento de uso se traduce realmente en mejores productos o simplemente en un mayor consumo de recursos computacionales.

La expansión de los agentes de IA y de los modelos de facturación por consumo está obligando a muchas organizaciones a incorporar nuevas métricas de control. Ya no basta con medir líneas de código o tiempo de desarrollo; ahora también resulta necesario vigilar el gasto asociado a los modelos utilizados, el número de tokens consumidos y el retorno real que aporta cada automatización.

Para gigantes como Amazon, Microsoft o Google estos sobrecostes pueden ser asumibles dentro de presupuestos de miles de millones de dólares. Para empresas medianas o startups, una mala configuración de un agente de IA podría convertirse rápidamente en un problema financiero mucho más difícil de absorber.

Preguntas frecuentes

¿Qué ocurrió con el proyecto de Amazon?

Un sistema que utilizaba Claude Sonnet para asociar información de autores con productos terminó generando un sobrecoste de 1,8 millones de dólares, un 860 % por encima del presupuesto previsto.

¿Cuál fue la causa del incremento del gasto?

Según la información publicada, el uso continuado del modelo de IA provocó un consumo muy superior al esperado y el problema no se detectó hasta varios meses después.

¿Fue el único proyecto afectado?

No. Los documentos internos citan otros proyectos que también registraron desviaciones presupuestarias de cientos de miles de dólares relacionadas con el uso de inteligencia artificial.

¿Qué enseñanza deja este caso?

Que desplegar agentes de IA no solo requiere evaluar su rendimiento técnico, sino también controlar el consumo de tokens, establecer límites de gasto y supervisar continuamente los costes operativos.

Fuentes:

  • Financial Times.
  • Tom’s Hardware.
  • Amazon (documentación interna citada por Financial Times).
Scroll al inicio