OpenAI бросает вызов NVIDIA: собственный ИИ-чип Jalapeño демонстрирует впечатляющую эффективность

OpenAI, ведущий игрок в сфере искусственного интеллекта, заявила о значительном прорыве в разработке собственной аппаратной инфраструктуры. На конференции Hot Chips компания представила свой чип для обработки ИИ-задач под названием Jalapeño, который, по ее словам, превосходит по эффективности флагманские решения NVIDIA, в частности систему GB300 с впечатляющей мощностью 1400 Вт. Это свидетельствует о стратегическом шаге OpenAI в сторону создания собственной аппаратной базы, оптимизированной под нужды ИИ, что может существенно повлиять на будущее отрасли.

Эффективность, меняющая правила игры

Разработанный в сотрудничестве с Broadcom, чип Jalapeño продемонстрировал впечатляющие результаты в тестах, проведенных в рамках общедоступного пакета InferenceX от SemiAnalysis. Согласно опубликованным данным, версия чипа мощностью 700 Вт оказалась значительно эффективнее конкурентов. В частности, по показателю пропускной способности на киловатт мощности (кВт) Jalapeño превзошел системы NVIDIA GB200 и GB300 в 1,5–1,9 раза. Еще более впечатляющими выглядят показатели сквозной задержки, где чип OpenAI показал результат в 1,7–3,6 раза лучше, чем у аналогов NVIDIA.

Эти цифры особенно важны, учитывая, что версия чипа Jalapeño мощностью 700 Вт сравнивалась с ускорителями NVIDIA, потребляющими 1200 и 1400 Вт соответственно. Это свидетельствует о значительно лучшей энергоэффективности разработки OpenAI, что является критически важным фактором для развертывания масштабных ИИ-систем в дата-центрах. Компания планирует начать интеграцию собственных чипов в свои дата-центры уже до конца текущего года, что подчеркивает ее уверенность в технологии.

Тестирование проводилось на трех мощных моделях: GPT-OSS 120B, DeepSeek R1 670B и Kimi K2.5 от Moonshot AI, насчитывающих около 1 триллиона параметров. OpenAI особенно подчеркивает преимущества Jalapeño в режимах работы с низкой задержкой. В этих сценариях, при оптимизации времени между генерацией токенов, пропускная способность на киловатт мощности возрастала в поразительные 8,6–104,3 раза по сравнению с GB300.

Технические детали и конкурентная среда

OpenAI провела тщательную нормализацию результатов, учитывая заявленное значение TDP (Thermal Design Power) каждого ускорителя. Интересно, что во время фактического тестирования измеренная длительная мощность Jalapeño оставалась значительно ниже номинальной, достигая 550 Вт или меньше. Это еще один показатель исключительной эффективности. Даже при сравнении общей полезной мощности на один ускоритель (1,18 кВт для Jalapeño против 2,55 кВт для GB300) разрыв остается значительным. Однако в режимах прогнозирования с несколькими токенами, которые чаще используются NVIDIA в производственных средах, пиковое преимущество Jalapeño в эффективности сокращается примерно до 1,5 раза.

Стоит отметить, что чип Jalapeño не сравнивался с системой Vera Rubin от NVIDIA, которая является ключевым конкурентом в сегменте самых мощных вычислений. Основные сравнительные тесты прогнозирования основывались на одном токене, что является более типичным для тестирования задержки.

SemiAnalysis, по словам инженеров OpenAI, подтвердила, что Jalapeño превосходит все протестированные аналогичные решения от NVIDIA, AMD и Google. Каждый чип Jalapeño состоит из вычислительного кристалла, дополненного шестью стеками памяти HBM4 общим объемом 216 ГБ и пропускной способностью 15,4 ТБ/с. Для сравнения, GB300 имеет 288 ГБ памяти HBM3E при номинальной мощности 1400 Вт. Это означает, что на каждый ватт номинальной мощности чип OpenAI содержит примерно на 50% больше памяти, что является существенным преимуществом для задач, требующих больших объемов данных.

Проблемы рынка памяти и будущие разработки

Одной из ключевых задач в разработке современных ИИ-ускорителей является обеспечение достаточной пропускной способности памяти. В настоящее время HBM (High Bandwidth Memory) является одним из самых дефицитных компонентов полупроводниковой индустрии. Крупные производители, такие как Samsung, SK hynix и Micron, уже распродали свои производственные мощности по выпуску HBM до 2027 года. Это создает значительные ограничения для всех игроков рынка.

Дефицит настолько острый, что, по слухам, NVIDIA рассматривает возможность использования урезанных конфигураций своей будущей системы Rubin Ultra с объемом памяти всего 192 ГБ. Квак Но-джун, генеральный директор SK Hynix, прогнозирует, что 2027 год может стать самым сложным периодом из-за хронического дефицита памяти.

Несмотря на эти вызовы, OpenAI активно инвестирует в собственную аппаратную разработку. По информации Bloomberg, второй этап разработки Jalapeño находится на финальной стадии, и ожидается, что чип будет полностью готов в течение нескольких месяцев. Более того, компания уже работает над третьим поколением своих ИИ-ускорителей, что свидетельствует о долгосрочной стратегии построения собственной инфраструктуры, независимой от сторонних поставщиков. Этот стратегический шаг может дать OpenAI значительное конкурентное преимущество, позволяя ей оптимизировать аппаратное обеспечение непосредственно под свои потребности и ускорять инновации в сфере искусственного интеллекта.