OpenAI fordert NVIDIA heraus: Eigener KI-Chip Jalapeño zeigt beeindruckende Effizienz

OpenAI, ein führender Akteur im Bereich der künstlichen Intelligenz, hat einen bedeutenden Durchbruch bei der Entwicklung der eigenen Hardware-Infrastruktur bekannt gegeben. Auf der Hot Chips Konferenz stellte das Unternehmen seinen eigenen Chip für KI-Workloads mit dem Namen Jalapeño vor, der nach eigenen Angaben bei der Effizienz die Flaggschiff-Lösungen von NVIDIA übertrifft, insbesondere das GB300-System mit einer beeindruckenden Leistung von 1400 W. Dies zeigt einen strategischen Schritt von OpenAI in Richtung einer eigenen, auf die Bedürfnisse von KI optimierten Hardware-Basis, die die Zukunft der Branche maßgeblich beeinflussen könnte.

Effizienz, die die Spielregeln verändert

Gemeinsam mit Broadcom entwickelt, zeigte der Chip Jalapeño beeindruckende Ergebnisse in Tests, die im Rahmen des öffentlichen Pakets InferenceX von SemiAnalysis durchgeführt wurden. Laut den veröffentlichten Daten erwies sich die 700-W-Version des Chips als deutlich effizienter als die Konkurrenz. Insbesondere beim Durchsatz pro Kilowatt Leistung (kW) übertraf Jalapeño die NVIDIA-Systeme GB200 und GB300 um das 1,5- bis 1,9-Fache. Noch beeindruckender sind die Ergebnisse bei der End-to-End-Latenz, wo der Chip von OpenAI um das 1,7- bis 3,6-Fache besser abschnitt als die entsprechenden NVIDIA-Lösungen.

Diese Zahlen sind besonders bemerkenswert, da die 700-W-Version von Jalapeño mit NVIDIA-Beschleunigern verglichen wurde, die jeweils 1200 bzw. 1400 W verbrauchen. Das spricht für die deutlich bessere Energieeffizienz der OpenAI-Entwicklung, ein entscheidender Faktor für den Einsatz großer KI-Systeme in Rechenzentren. Das Unternehmen plant, seine eigenen Chips bereits bis zum Jahresende in seine Rechenzentren zu integrieren, was das Vertrauen in die Technologie unterstreicht.

Getestet wurde mit drei leistungsstarken Modellen: GPT-OSS 120B, DeepSeek R1 670B und Kimi K2.5 von Moonshot AI, die zusammen rund 1 Billion Parameter umfassen. OpenAI betont besonders die Vorteile von Jalapeño in Szenarien mit niedriger Latenz. In diesen Fällen, bei der Optimierung der Zeit zwischen der Generierung von Tokens, stieg der Durchsatz pro Kilowatt im Vergleich zum GB300 um erstaunliche 8,6- bis 104,3-fache.

Technische Details und Wettbewerbsumfeld

OpenAI nahm eine sorgfältige Normalisierung der Ergebnisse vor und berücksichtigte dabei die angegebene TDP (Thermal Design Power) jedes Beschleunigers. Interessant ist, dass die gemessene Dauerleistung von Jalapeño während der tatsächlichen Tests deutlich unter dem Nennwert blieb und 550 W oder weniger erreichte. Das ist ein weiterer Beleg für die außergewöhnliche Effizienz. Selbst beim Vergleich der gesamten nutzbaren Leistung pro Beschleuniger (1,18 kW für Jalapeño gegenüber 2,55 kW für GB300) bleibt der Abstand erheblich. In Multi-Token-Vorhersagemodi, die NVIDIA in produktiven Umgebungen häufiger einsetzt, schrumpft der Spitzenvorteil von Jalapeño bei der Effizienz jedoch auf etwa das 1,5-Fache.

Zu beachten ist, dass der Chip Jalapeño nicht mit NVIDIAs Vera Rubin-System verglichen wurde, einem Schlüsselkonkurrenten im Segment der leistungsstärksten Rechenlösungen. Die wichtigsten Vergleichstests für Vorhersagen basierten auf einem einzelnen Token, was typischer für Latenztests ist.

SemiAnalysis hat nach Angaben der Ingenieure von OpenAI bestätigt, dass Jalapeño alle getesteten vergleichbaren Lösungen von NVIDIA, AMD und Google übertrifft. Jeder Jalapeño-Chip besteht aus einem Rechenkern, ergänzt durch sechs HBM4-Speicherstapel mit insgesamt 216 GB und einer Bandbreite von 15,4 TB/s. Zum Vergleich: Der GB300 verfügt über 288 GB HBM3E-Speicher bei einer Nennleistung von 1400 W. Das bedeutet, dass der Chip von OpenAI pro Watt Nennleistung etwa 50 % mehr Speicher bietet, was ein erheblicher Vorteil für datenintensive Aufgaben ist.

Probleme auf dem Speichermarkt und zukünftige Entwicklungen

Eine der größten Herausforderungen bei der Entwicklung moderner KI-Beschleuniger ist die Sicherstellung ausreichender Speicherbandbreite. HBM (High Bandwidth Memory) gehört derzeit zu den knappsten Komponenten in der Halbleiterindustrie. Große Hersteller wie Samsung, SK hynix und Micron haben ihre HBM-Produktionskapazitäten bereits bis 2027 ausverkauft. Das schafft erhebliche Einschränkungen für alle Marktteilnehmer.

Die Knappheit ist so groß, dass NVIDIA Berichten zufolge erwägt, abgespeckte Konfigurationen seines künftigen Rubin-Ultra-Systems mit nur 192 GB Speicher zu verwenden. Kwak Noh-jung, CEO von SK Hynix, prognostiziert, dass 2027 aufgrund des chronischen Speichermangels zum schwierigsten Jahr werden könnte.

Trotz dieser Herausforderungen investiert OpenAI weiter aktiv in die eigene Hardware-Entwicklung. Laut Bloomberg befindet sich die zweite Entwicklungsphase von Jalapeño in der Endphase, und der Chip soll innerhalb weniger Monate vollständig bereit sein. Darüber hinaus arbeitet das Unternehmen bereits an der dritten Generation seiner KI-Beschleuniger, was auf eine langfristige Strategie zum Aufbau einer eigenen, unabhängigen Infrastruktur ohne externe Anbieter hinweist. Dieser strategische Schritt könnte OpenAI einen erheblichen Wettbewerbsvorteil verschaffen, da das Unternehmen die Hardware direkt auf seine Bedürfnisse zuschneiden und Innovationen im Bereich der künstlichen Intelligenz beschleunigen kann.