OpenAI desafía a NVIDIA: su propio chip de IA Jalapeño demuestra una eficiencia impresionante

OpenAI, uno de los principales actores del sector de la inteligencia artificial, ha anunciado un avance significativo en el desarrollo de su propia infraestructura de hardware. En la conferencia Hot Chips, la compañía presentó su chip para tareas de IA llamado Jalapeño, que, según afirma, supera en eficiencia a las soluciones insignia de NVIDIA, en particular al sistema GB300 con sus impresionantes 1400 W. Esto pone de manifiesto un movimiento estratégico de OpenAI hacia la creación de una base de hardware propia, optimizada para las necesidades de la IA, que podría influir de forma importante en el futuro del sector.

Una eficiencia que cambia las reglas del juego

Desarrollado en colaboración con Broadcom, el chip Jalapeño mostró resultados impresionantes en las pruebas realizadas dentro del paquete público InferenceX de SemiAnalysis. Según los datos publicados, la versión del chip de 700 W resultó considerablemente más eficiente que la competencia. En concreto, en la métrica de rendimiento por kilovatio de potencia (kW), Jalapeño superó a los sistemas NVIDIA GB200 y GB300 entre 1,5 y 1,9 veces. Aún más llamativos son los resultados de latencia de extremo a extremo, donde el chip de OpenAI obtuvo un rendimiento entre 1,7 y 3,6 veces mejor que sus equivalentes de NVIDIA.

Estas cifras son especialmente relevantes si se tiene en cuenta que la versión de 700 W de Jalapeño se comparó con aceleradores de NVIDIA que consumen 1200 y 1400 W, respectivamente. Esto refleja una eficiencia energética claramente superior en el desarrollo de OpenAI, un factor crítico para desplegar sistemas de IA a gran escala en centros de datos. La empresa planea comenzar a integrar sus propios chips en sus centros de datos antes de que termine el año, lo que subraya su confianza en la tecnología.

Las pruebas se realizaron con tres modelos de gran tamaño: GPT-OSS 120B, DeepSeek R1 670B y Kimi K2.5 de Moonshot AI, que suman alrededor de 1 billón de parámetros. OpenAI destaca especialmente las ventajas de Jalapeño en modos de funcionamiento de baja latencia. En estos escenarios, al optimizar el tiempo entre la generación de tokens, el rendimiento por kilovatio aumentó de forma sorprendente entre 8,6 y 104,3 veces en comparación con GB300.

Detalles técnicos y panorama competitivo

OpenAI realizó una normalización exhaustiva de los resultados, teniendo en cuenta el valor de TDP (Thermal Design Power) declarado de cada acelerador. Resulta interesante que, durante las pruebas reales, la potencia sostenida medida de Jalapeño se mantuvo muy por debajo de la nominal, llegando a 550 W o menos. Esto es otra muestra de su eficiencia excepcional. Incluso al comparar la potencia útil total por acelerador (1,18 kW para Jalapeño frente a 2,55 kW para GB300), la diferencia sigue siendo notable. Sin embargo, en modos de predicción con varios tokens, más habituales en los entornos de producción de NVIDIA, la ventaja máxima de eficiencia de Jalapeño se reduce aproximadamente a 1,5 veces.

Cabe señalar que el chip Jalapeño no se comparó con el sistema Vera Rubin de NVIDIA, uno de los principales competidores en el segmento de computación de máximo rendimiento. Las principales pruebas comparativas de predicción se basaron en un solo token, un enfoque más habitual para evaluar la latencia.

SemiAnalysis, según los ingenieros de OpenAI, confirmó que Jalapeño supera a todas las soluciones equivalentes probadas de NVIDIA, AMD y Google. Cada chip Jalapeño consta de un die de cómputo complementado con seis pilas de memoria HBM4 con una capacidad total de 216 GB y un ancho de banda de 15,4 TB/s. A modo de comparación, GB300 cuenta con 288 GB de memoria HBM3E con una potencia nominal de 1400 W. Esto significa que, por cada vatio de potencia nominal, el chip de OpenAI incluye aproximadamente un 50% más de memoria, una ventaja importante para tareas que requieren grandes volúmenes de datos.

Problemas del mercado de memoria y desarrollos futuros

Uno de los principales retos en el desarrollo de aceleradores de IA modernos es garantizar suficiente ancho de banda de memoria. Actualmente, la HBM (High Bandwidth Memory) es uno de los componentes más escasos de la industria de semiconductores. Grandes fabricantes como Samsung, SK hynix y Micron ya han agotado su capacidad de producción de HBM hasta 2027. Esto genera limitaciones importantes para todos los actores del mercado.

La escasez es tan acusada que, según rumores, NVIDIA está considerando utilizar configuraciones reducidas de su futura plataforma Rubin Ultra con solo 192 GB de memoria. Kwak Noh-jung, director ejecutivo de SK Hynix, prevé que 2027 podría convertirse en el periodo más difícil debido a la escasez crónica de memoria.

A pesar de estos desafíos, OpenAI está invirtiendo de forma activa en su propio desarrollo de hardware. Según Bloomberg, la segunda fase de desarrollo de Jalapeño se encuentra en su etapa final y se espera que el chip esté completamente listo en unos meses. Además, la empresa ya trabaja en la tercera generación de sus aceleradores de IA, lo que demuestra una estrategia a largo plazo para construir una infraestructura propia, independiente de proveedores externos. Este paso estratégico podría otorgar a OpenAI una ventaja competitiva considerable, permitiéndole optimizar el hardware directamente para sus necesidades y acelerar la innovación en el campo de la inteligencia artificial.