Amazon se enfrentó a un gasto inesperado: los agentes de IA provocaron pérdidas de millones

Informes internos recientes de Amazon, que llegaron a manos de Financial Times, revelan errores bastante costosos en el uso de modelos avanzados de inteligencia artificial (IA), en particular un gasto excesivo en el uso de la potente herramienta Claude. El resultado fue una inesperada “inflación” del presupuesto, cuando se destinaron 1,8 millones de dólares a realizar tareas rutinarias de programación.

Inflación del gasto en IA: de pequeños errores a consecuencias catastróficas

Históricamente, los errores en los sistemas de desarrollo de software no solían provocar grandes pérdidas financieras. Sin embargo, con la aparición de modelos de IA más nuevos y potentes, el precio de estos fallos ha aumentado de forma drástica. Esto se hizo especialmente evidente tras la implementación de los llamados agentes de IA, que ampliaron notablemente las capacidades y la automatización. Esto provocó un fuerte aumento del gasto en los llamados “tokens”, unidades de información por cuyo procesamiento se cobra.

En el caso de Claude Sonnet, cuya tarea era cotejar datos de autores con anuncios publicitarios en la enorme plataforma de Amazon, una implementación fallida hizo que el presupuesto asignado se superara en un 860%. Lo más impactante es que el problema permaneció sin detectarse durante cinco meses, acumulando mientras tanto una deuda enorme.

Este no es un caso aislado. Según los datos publicados, la empresa también gastó 541 mil dólares estadounidenses en un proyecto destinado a desarrollar una auditoría financiera, así como 134 mil dólares en un sistema diseñado para optimizar las cadenas logísticas y acelerar la entrega de productos. Estos incidentes ponen de relieve los crecientes desafíos relacionados con la integración y el control de costes de las soluciones avanzadas de IA.

Amazon: “Aprendemos y experimentamos”

En respuesta a la información publicada, representantes de Amazon afirmaron que la compañía experimenta activamente con nuevas tecnologías, aprendiendo y perfeccionando constantemente la manera de utilizarlas. “Como ocurre con cualquier nueva tecnología, experimentamos, aprendemos y mejoramos las formas de usarla, incluidos los métodos para aumentar la eficiencia de costes. Los ejemplos selectivos en los que los equipos aprenden unos de otros, y su presentación como práctica habitual, no reflejan cómo los equipos de Amazon utilizan la IA”, señaló una presentación interna de la compañía.

Aunque gastar millones de dólares en proyectos de IA fallidos pueda parecer significativo, cabe señalar que representa solo una pequeña parte de los resultados financieros globales de Amazon. El último beneficio trimestral de la empresa superó los 181 mil millones de dólares, lo que hace que estas pérdidas sean inferiores al 0,1% de los ingresos mensuales.

Tendencia al gasto descontrolado en IA

Estos incidentes no son los primeros problemas de Amazon relacionados con la inteligencia artificial. A principios de este año, la empresa se enfrentó a fallos en el funcionamiento provocados por errores en el código de los bots de IA. Entonces, el problema se resolvió limitando los permisos de los agentes de IA, en lugar de otorgarles facultades equivalentes a las de ingenieros sénior.

Anteriormente, en Amazon existía un sistema de clasificación del uso de la IA por parte de los empleados, pero finalmente se abandonó. El aumento del gasto en IA obligó a la empresa a revisar su propia política. Muchos gigantes tecnológicos animan activamente a sus empleados a utilizar la IA al máximo para aumentar la productividad, lo que, a su vez, conduce al consumo máximo de tokens.

Los expertos señalan que esta política no siempre se correlaciona con el éxito en la implementación de productos. El director técnico de Uber, por ejemplo, subraya la ausencia de una relación directa entre el uso intensivo de la IA y el éxito de los proyectos. La situación se complica porque muchos proveedores de IA han abandonado el modelo de suscripción y han pasado al pago por cada token consumido. Esto ha llevado a una situación en la que los presupuestos anuales de las empresas pueden agotarse en cuestión de semanas.

Para gigantes tecnológicos como Amazon o Microsoft, estos gastos, aunque molestos, pueden no ser críticos. Sin embargo, para empresas más pequeñas, que no cuentan con recursos financieros tan amplios, esta tendencia se vuelve extremadamente peligrosa y puede poner en riesgo su existencia. Esto pone de relieve la necesidad de desarrollar mecanismos más eficaces de control y optimización del gasto en el ámbito de la inteligencia artificial, para garantizar un desarrollo sostenible y seguro para todo el sector tecnológico.