Amazon зіткнулася з несподіваною статтею витрат: ШІ-агенти призвели до мільйонних збитків

Нещодавні внутрішні звіти Amazon, що стали надбанням Financial Times, розкривають доволі громіздкі помилки у використанні просунутих моделей штучного інтелекту (ШІ), зокрема, йдеться про надлишкову витрату коштів на використання потужного інструменту Claude. Результатом стало неочікуване “здуття” бюджету, коли на виконання рутинних завдань з програмування було витрачено колосальну суму – 1,8 мільйона доларів.

Інфляція ШІ-витрат: від незначних помилок до катастрофічних наслідків

Історично, помилки в роботі систем розробки програмного забезпечення, як правило, не призводили до значних фінансових втрат. Однак, з появою новітніх, потужніших моделей ШІ, ціна таких збоїв різко зросла. Особливо відчутно це стало після впровадження так званих ШІ-агентів, які значно розширили можливості та автоматизацію. Це призвело до різкого стрибка витрат на так звані “токени” – одиниці інформації, за обробку яких стягується оплата.

У випадку з Claude Sonnet, чиїм завданням було зіставлення даних про авторів із рекламними оголошеннями на величезній платформі Amazon, невдале впровадження призвело до того, що призначений бюджет було перевищено на 860%. Шокуючим є той факт, що проблема залишалася невиявленою протягом п’яти місяців, за цей час накопичивши величезний борг.

Це не поодинокий випадок. Згідно з оприлюдненими даними, додатково компанія витратила 541 тисячу доларів США на проєкт, спрямований на розробку фінансового аудиту, а також 134 тисячі доларів на систему, покликану оптимізувати логістичні ланцюжки та прискорити доставлення товарів. Ці інциденти підкреслюють зростаючі виклики, пов’язані з інтеграцією та контролем витрат на передові ШІ-рішення.

Amazon: “Ми вчимося та експериментуємо”

У відповідь на оприлюднену інформацію, представники Amazon заявили, що компанія активно експериментує з новими технологіями, постійно навчаючись та вдосконалюючи методи їх використання. “Як і у випадку з будь-якою новою технологією, ми експериментуємо, навчаємося та вдосконалюємо способи її використання, зокрема й способи підвищення ефективності витрат. Вибіркові приклади, коли команди навчаються одна в одної, та їхнє представлення як звичайної практики не відображають того, як команди Amazon використовують ШІ”, — зазначено у внутрішній презентації компанії.

Хоча витрати на мільйони доларів на невдалі ШІ-проєкти можуть видатися значними, варто зазначити, що вони становлять лише крихітну частку від загальних фінансових показників Amazon. Останній квартальний прибуток компанії перевищив 181 мільярд доларів США, що робить ці збитки меншими за 0,1% від щомісячного доходу.

Тенденція до неконтрольованих витрат ШІ

Ці інциденти не є першими проблемами Amazon, пов’язаними з штучним інтелектом. Раніше цього року компанія стикалася зі збоями в роботі, викликаними помилками в програмному коді ШІ-ботів. Тоді проблему було вирішено шляхом обмеження прав ШІ-агентів, замість надання їм повноважень, рівних старшим інженерам.

Раніше в Amazon існувала система ранжування використання ШІ співробітниками, але від неї відмовилися. Зростання витрат на ШІ змусило компанію переглянути власну політику. Багато технологічних гігантів активно заохочують своїх співробітників до максимального використання ШІ для підвищення продуктивності, що, в свою чергу, призводить до максимального споживання токенів.

Така політика, як зазначають експерти, не завжди корелює з успішною реалізацією продуктів. Техдиректор Uber, наприклад, підкреслює відсутність прямого зв’язку між активним використанням ШІ та успішністю проєктів. Ситуація ускладнюється тим, що багато постачальників ШІ відмовились від моделі підписок, перейшовши на оплату за кожен витрачений токен. Це призвело до ситуації, коли річні бюджети компаній можуть бути вичерпані за лічені тижні.

Для таких технологічних гігантів, як Amazon або Microsoft, такі витрати, хоч і прикрі, можуть бути не критичними. Однак для менших компаній, які не володіють такими значними фінансовими ресурсами, така тенденція стає вкрай небезпечною і може поставити під загрозу їхнє існування. Це підкреслює необхідність розробки більш ефективних механізмів контролю та оптимізації витрат у сфері штучного інтелекту, щоб забезпечити його сталий та безпечний розвиток для всього технологічного сектору.