Amazon столкнулась с неожиданной статьей расходов: ИИ-агенты привели к миллионным убыткам

Недавние внутренние отчеты Amazon, попавшие в распоряжение Financial Times, раскрывают довольно громкие ошибки в использовании продвинутых моделей искусственного интеллекта (ИИ): в частности, речь идет о чрезмерных расходах на использование мощного инструмента Claude. Результатом стало неожиданное «раздувание» бюджета, когда на выполнение рутинных задач по программированию была потрачена колоссальная сумма — 1,8 миллиона долларов.

Инфляция ИИ-расходов: от незначительных ошибок до катастрофических последствий

Исторически ошибки в работе систем разработки программного обеспечения, как правило, не приводили к значительным финансовым потерям. Однако с появлением новых, более мощных моделей ИИ цена таких сбоев резко выросла. Особенно заметно это стало после внедрения так называемых ИИ-агентов, которые значительно расширили возможности и автоматизацию. Это привело к резкому скачку расходов на так называемые «токены» — единицы информации, за обработку которых взимается плата.

В случае с Claude Sonnet, задачей которого было сопоставление данных об авторах с рекламными объявлениями на огромной платформе Amazon, неудачное внедрение привело к тому, что выделенный бюджет был превышен на 860%. Шокирует тот факт, что проблема оставалась незамеченной в течение пяти месяцев, за это время накопив огромный долг.

Это не единичный случай. Согласно опубликованным данным, дополнительно компания потратила 541 тысячу долларов США на проект, направленный на разработку финансового аудита, а также 134 тысячи долларов на систему, призванную оптимизировать логистические цепочки и ускорить доставку товаров. Эти инциденты подчеркивают растущие вызовы, связанные с интеграцией и контролем расходов на передовые ИИ-решения.

Amazon: «Мы учимся и экспериментируем»

В ответ на опубликованную информацию представители Amazon заявили, что компания активно экспериментирует с новыми технологиями, постоянно обучаясь и совершенствуя методы их использования. «Как и в случае с любой новой технологией, мы экспериментируем, учимся и совершенствуем способы ее использования, в том числе способы повышения эффективности затрат. Выборочные примеры, когда команды учатся друг у друга, и их представление как обычной практики не отражают того, как команды Amazon используют ИИ», — указано во внутренней презентации компании.

Хотя расходы в миллионы долларов на неудачные ИИ-проекты могут показаться значительными, стоит отметить, что они составляют лишь крошечную часть от общих финансовых показателей Amazon. Последняя квартальная выручка компании превысила 181 миллиард долларов США, что делает эти убытки менее чем 0,1% от месячного дохода.

Тенденция к неконтролируемым расходам на ИИ

Эти инциденты не являются первыми проблемами Amazon, связанными с искусственным интеллектом. Ранее в этом году компания сталкивалась со сбоями в работе, вызванными ошибками в программном коде ИИ-ботов. Тогда проблема была решена путем ограничения прав ИИ-агентов, вместо предоставления им полномочий, равных старшим инженерам.

Ранее в Amazon существовала система ранжирования использования ИИ сотрудниками, но от нее отказались. Рост расходов на ИИ заставил компанию пересмотреть собственную политику. Многие технологические гиганты активно поощряют своих сотрудников к максимальному использованию ИИ для повышения продуктивности, что, в свою очередь, приводит к максимальному потреблению токенов.

Такая политика, как отмечают эксперты, не всегда коррелирует с успешной реализацией продуктов. Технический директор Uber, например, подчеркивает отсутствие прямой связи между активным использованием ИИ и успешностью проектов. Ситуация усложняется тем, что многие поставщики ИИ отказались от модели подписок, перейдя на оплату за каждый потраченный токен. Это привело к ситуации, когда годовые бюджеты компаний могут быть исчерпаны за считаные недели.

Для таких технологических гигантов, как Amazon или Microsoft, такие расходы, хотя и неприятны, могут быть не критичными. Однако для небольших компаний, не располагающих такими значительными финансовыми ресурсами, эта тенденция становится крайне опасной и может поставить под угрозу их существование. Это подчеркивает необходимость разработки более эффективных механизмов контроля и оптимизации расходов в сфере искусственного интеллекта, чтобы обеспечить его устойчивое и безопасное развитие для всего технологического сектора.