OpenAI кидає виклик NVIDIA: власний ШІ-чіп Jalapeño демонструє вражаючу ефективність

OpenAI, провідний гравець у галузі штучного інтелекту, заявила про значний прорив у розробці власної апаратної інфраструктури. На конференції Hot Chips компанія представила власний чип для обробки ШІ-завдань під назвою Jalapeño, який, за її словами, перевершує за ефективністю флагманські рішення від NVIDIA, зокрема систему GB300 з вражаючою потужністю 1400 Вт. Це свідчить про стратегічний крок OpenAI у напрямку створення власної, оптимізованої під потреби ШІ, апаратної бази, що може суттєво вплинути на майбутнє галузі.

Ефективність, що змінює правила гри

Розроблений у співпраці з Broadcom, чип Jalapeño продемонстрував вражаючі результати у тестах, проведених у рамках загальнодоступного пакету InferenceX від SemiAnalysis. Згідно з оприлюдненими даними, версія чипа потужністю 700 Вт виявилася значно ефективнішою за конкурентів. Зокрема, за показником пропускної здатності на кіловат потужності (кВт) Jalapeño перевершив системи NVIDIA GB200 та GB300 у 1,5-1,9 рази. Ще більш вражаючими виглядають показники наскрізної затримки, де чип OpenAI показав результат у 1,7-3,6 рази кращий, ніж у аналогів від NVIDIA.

Ці цифри особливо вагомі, враховуючи, що версія чипа Jalapeño потужністю 700 Вт порівнювалася з прискорювачами NVIDIA, які споживають 1200 та 1400 Вт відповідно. Це свідчить про значно кращу енергоефективність розробки OpenAI, що є критично важливим фактором для розгортання масштабних ШІ-систем у дата-центрах. Компанія планує розпочати інтеграцію власних чипів у свої дата-центри вже до кінця поточного року, що підкреслює її впевненість у технології.

Тестування проводилося на трьох потужних моделях: GPT-OSS 120B, DeepSeek R1 670B та Kimi K2.5 від Moonshot AI, що налічують близько 1 трильйона параметрів. OpenAI особливо наголошує на перевагах Jalapeño у режимах роботи з низькою затримкою. У цих сценаріях, при оптимізації часу між генерацією токенів, пропускна здатність на кіловат потужності зростала в дивовижні 8,6–104,3 рази порівняно з GB300.

Технічні деталі та конкурентне середовище

OpenAI провела ретельну нормалізацію результатів, враховуючи заявлене значення TDP (Thermal Design Power) кожного прискорювача. Цікаво, що під час фактичного тестування виміряна тривала потужність Jalapeño залишалася значно нижчою за номінальну, сягаючи 550 Вт або менше. Це ще один показник виняткової ефективності. Навіть при порівнянні загальної корисної потужності на один прискорювач (1,18 кВт для Jalapeño проти 2,55 кВт для GB300), розрив залишається значним. Однак, у режимах прогнозування з кількома токенами, які частіше використовуються NVIDIA у виробничих середовищах, пікова перевага в ефективності Jalapeño скорочується приблизно до 1,5 рази.

Варто зазначити, що чип Jalapeño не порівнювався з системою Vera Rubin від NVIDIA, що є ключовим конкурентом у сегменті найпотужніших обчислень. Основні порівняльні тести прогнозування базувалися на одному токені, що є більш типовим для тестування затримки.

SemiAnalysis, за словами інженерів OpenAI, підтвердила, що Jalapeño перевершує всі протестовані аналогічні рішення від NVIDIA, AMD та Google. Кожен чип Jalapeño складається з обчислювального кристалу, доповненого шістьма стеками пам’яті HBM4 загальним обсягом 216 ГБ та пропускною здатністю 15,4 ТБ/с. Для порівняння, GB300 має 288 ГБ пам’яті HBM3E при номінальній потужності 1400 Вт. Це означає, що на кожен ват номінальної потужності чип OpenAI містить приблизно на 50% більше пам’яті, що є суттєвою перевагою для задач, які вимагають великих обсягів даних.

Проблеми ринку пам’яті та майбутні розробки

Одним із ключових викликів у розробці сучасних ШІ-прискорювачів є забезпечення достатньої пропускної здатності пам’яті. Наразі HBM (High Bandwidth Memory) є одним з найдефіцитніших компонентів напівпровідникової індустрії. Великі виробники, такі як Samsung, SK hynix та Micron, вже розпродали свої виробничі потужності з виробництва HBM до 2027 року. Це створює значні обмеження для всіх гравців ринку.

Дефіцит настільки гострий, що, за чутками, NVIDIA розглядає можливість використання урізаних конфігурацій своєї майбутньої системи Rubin Ultra з обсягом пам’яті лише 192 ГБ. Квак Но-джун, генеральний директор SK Hynix, прогнозує, що 2027 рік може стати найскладнішим періодом через хронічний дефіцит пам’яті.

Незважаючи на ці виклики, OpenAI активно інвестує у власну апаратну розробку. За інформацією Bloomberg, другий етап розробки Jalapeño знаходиться на фінальній стадії, і очікується, що чип буде повністю готовий протягом кількох місяців. Більше того, компанія вже працює над третім поколінням своїх ШІ-прискорювачів, що свідчить про довгострокову стратегію побудови власної, незалежної від сторонніх постачальників, інфраструктури. Цей стратегічний крок може надати OpenAI значну конкурентну перевагу, дозволяючи їй оптимізувати апаратне забезпечення безпосередньо під свої потреби та прискорювати інновації у галузі штучного інтелекту.