Amazon sah sich mit einem unerwarteten Kostenposten konfrontiert: KI-Agenten führten zu Millionenschäden

Jüngste interne Berichte von Amazon, die der Financial Times zugespielt wurden, offenbaren ziemlich gravierende Fehler beim Einsatz fortschrittlicher Modelle der künstlichen Intelligenz (KI). Konkret geht es um übermäßige Ausgaben für die Nutzung des leistungsstarken Tools Claude. Das Ergebnis war ein unerwartetes Aufblähen des Budgets, als für routinemäßige Programmieraufgaben die enorme Summe von 1,8 Millionen US-Dollar ausgegeben wurde.

Inflation der KI-Kosten: von kleinen Fehlern bis zu katastrophalen Folgen

Historisch gesehen führten Fehler in Software-Entwicklungssystemen in der Regel nicht zu erheblichen finanziellen Verlusten. Mit dem Aufkommen neuer, leistungsfähigerer KI-Modelle sind die Kosten solcher Ausfälle jedoch drastisch gestiegen. Besonders deutlich wurde das nach der Einführung sogenannter KI-Agenten, die die Möglichkeiten und die Automatisierung erheblich erweitert haben. Dies führte zu einem starken Anstieg der Kosten für sogenannte „Tokens“ – Informationseinheiten, deren Verarbeitung bezahlt wird.

Im Fall von Claude Sonnet, dessen Aufgabe es war, Autorendaten mit Werbeanzeigen auf der riesigen Amazon-Plattform abzugleichen, führte eine fehlerhafte Implementierung dazu, dass das vorgesehene Budget um 860 % überschritten wurde. Schockierend ist die Tatsache, dass das Problem fünf Monate lang unentdeckt blieb und in dieser Zeit enorme Schulden anhäufte.

Dies ist kein Einzelfall. Den veröffentlichten Daten zufolge gab das Unternehmen zusätzlich 541.000 US-Dollar für ein Projekt zur Entwicklung eines Finanz-Audits sowie 134.000 US-Dollar für ein System aus, das Lieferketten optimieren und die Auslieferung von Waren beschleunigen sollte. Diese Vorfälle unterstreichen die wachsenden Herausforderungen im Zusammenhang mit der Integration und Kostenkontrolle fortschrittlicher KI-Lösungen.

Amazon: „Wir lernen und experimentieren“

Als Reaktion auf die veröffentlichten Informationen erklärten Vertreter von Amazon, dass das Unternehmen aktiv mit neuen Technologien experimentiere und dabei ständig dazulerne und die Methoden ihrer Nutzung verbessere. „Wie bei jeder neuen Technologie experimentieren wir, lernen und verbessern die Art und Weise, wie wir sie einsetzen, einschließlich der Methoden zur Steigerung der Kosteneffizienz. Ausgewählte Beispiele, bei denen Teams voneinander lernen, und deren Darstellung als gängige Praxis spiegeln nicht wider, wie Amazon-Teams KI einsetzen“, heißt es in einer internen Unternehmenspräsentation.

Auch wenn Ausgaben in Millionenhöhe für gescheiterte KI-Projekte beträchtlich erscheinen mögen, sollte man beachten, dass sie nur einen winzigen Teil der gesamten Finanzkennzahlen von Amazon ausmachen. Der letzte Quartalsumsatz des Unternehmens überstieg 181 Milliarden US-Dollar, wodurch diese Verluste weniger als 0,1 % des monatlichen Umsatzes ausmachen.

Trend zu unkontrollierten KI-Ausgaben

Diese Vorfälle sind nicht Amazons erste Probleme im Zusammenhang mit künstlicher Intelligenz. Bereits früher in diesem Jahr hatte das Unternehmen mit Störungen zu kämpfen, die durch Fehler im Programmcode von KI-Bots verursacht wurden. Damals wurde das Problem gelöst, indem die Rechte der KI-Agenten eingeschränkt wurden, anstatt ihnen Befugnisse auf dem Niveau von Senior Engineers zu geben.

Früher gab es bei Amazon ein Ranking-System für die Nutzung von KI durch Mitarbeitende, doch dieses wurde aufgegeben. Die steigenden KI-Kosten zwangen das Unternehmen, seine eigene Politik zu überdenken. Viele Technologiegiganten ermutigen ihre Mitarbeitenden aktiv dazu, KI möglichst intensiv zu nutzen, um die Produktivität zu steigern, was wiederum zu einem maximalen Token-Verbrauch führt.

Diese Politik, so Expertinnen und Experten, korreliert nicht immer mit einer erfolgreichen Produktumsetzung. Der Technikchef von Uber betont beispielsweise das Fehlen eines direkten Zusammenhangs zwischen intensiver KI-Nutzung und dem Erfolg von Projekten. Erschwerend kommt hinzu, dass viele KI-Anbieter vom Abo-Modell abgerückt sind und auf Abrechnung pro verbrauchtem Token umgestellt haben. Dadurch kann es passieren, dass die Jahresbudgets von Unternehmen innerhalb weniger Wochen aufgebraucht sind.

Für Technologiegiganten wie Amazon oder Microsoft mögen solche Kosten, auch wenn sie ärgerlich sind, nicht kritisch sein. Für kleinere Unternehmen, die nicht über derart große finanzielle Ressourcen verfügen, wird dieser Trend jedoch äußerst gefährlich und kann ihre Existenz bedrohen. Das unterstreicht die Notwendigkeit, wirksamere Mechanismen zur Kostenkontrolle und -optimierung im Bereich der künstlichen Intelligenz zu entwickeln, um eine nachhaltige und sichere Entwicklung des gesamten Technologiesektors zu gewährleisten.