El primer chip interno de OpenAI supera a NVIDIA en velocidad y eficiencia energética
OpenAI ha publicado las primeras cifras detalladas de rendimiento de Jalapeño, su primer chip diseñado específicamente para la inferencia de IA. En las propias pruebas de la empresa con tres grandes modelos de lenguaje, el chip ofreció un rendimiento máximo por unidad de potencia entre 1,5 y 1,9 veces mayor y una latencia de consulta de extremo a extremo entre 1,7 y 3,6 veces menor que los sistemas NVIDIA GB200 y GB300 utilizados para la comparación. Eso no significa que NVIDIA haya sido destronada, pero sí muestra por qué las mayores empresas de IA quieren cada vez más diseñar una mayor parte de su propio hardware.
Jalapeño no compite con los chips de entrenamiento
Este es el primer chip interno de inferencia de OpenAI, lo que significa que se ha optimizado principalmente para ejecutar modelos que ya han sido entrenados, en lugar de entrenar nuevos modelos grandes desde cero. La empresa seguirá utilizando aceleradores de NVIDIA y otros socios tanto para el entrenamiento como para la inferencia.
OpenAI utilizó el benchmark público InferenceX y probó tres modelos: GPT-OSS 120B, DeepSeek R1 670B y Kimi K2.5 1T. Los sistemas GB200 y GB300 de NVIDIA se utilizaron como referencia comparativa.
Con GPT-OSS 120B, Jalapeño logró un rendimiento máximo de 85.448 tokens de entrada y salida por segundo por kilovatio, frente a 44.960 del GB200. Esto otorga a Jalapeño una ventaja de aproximadamente 1,9 veces. La latencia de consulta de extremo a extremo fue de 1,03 segundos frente a 1,80 segundos, respectivamente.
DeepSeek R1 produjo una brecha de latencia aún mayor. Jalapeño completó la consulta en 1,65 segundos, mientras que el GB300 necesitó 5,99 segundos. El rendimiento máximo por unidad de potencia alcanzó 19.641 tokens de entrada y salida por segundo por kilovatio en Jalapeño y 11.781 en el GB300. Con Kimi K2.5, OpenAI midió un rendimiento máximo por unidad de potencia aproximadamente 1,5 veces mayor y una latencia total 3,4 veces menor para Jalapeño.
Estas son mediciones propias de OpenAI, no resultados de un laboratorio independiente. Las cifras de eficiencia energética también deben interpretarse en el contexto de la metodología. OpenAI normalizó los resultados utilizando la potencia nominal publicada de los aceleradores, en lugar de medir el consumo eléctrico real de cada sistema competidor en condiciones idénticas.
El chip de 700 W no consumió más de 550 W en las pruebas
Jalapeño tiene una potencia nominal de 700 W. Según OpenAI, el consumo eléctrico real se mantuvo en 550 W o menos en las cargas de trabajo probadas. Para sus cálculos, la empresa utilizó la potencia nominal publicada por NVIDIA de 1.200 W para el GB200 y 1.400 W para el GB300.
El trabajo realizado por unidad de potencia está adquiriendo una importancia cada vez mayor en los grandes centros de datos de IA. La capacidad eléctrica, la refrigeración y las conexiones a la red pueden limitar el crecimiento de las granjas de servidores tanto como la disponibilidad de chips. Si se pueden atender más consultas con cada kilovatio, el coste de infraestructura por token generado o solicitud de usuario disminuye.
La arquitectura de Jalapeño está diseñada en torno a las diferentes fases de la inferencia de modelos de lenguaje. El procesamiento inicial de la entrada, o prefill, requiere principalmente capacidad de cálculo. La generación de la respuesta token a token, o decode, depende más del ancho de banda de memoria. También se consume tiempo al mover datos y el estado del modelo entre chips y unidades de cálculo.
OpenAI diseñó el procesador, la memoria, las redes y el software como un único sistema integrado para reducir el movimiento innecesario de datos. Entre otras cosas, la arquitectura permite que la caché KV utilizada durante la generación de respuestas permanezca lo más local posible.
La IA ayudó a diseñar el propio chip
La IA desempeñó un papel directo en el desarrollo de Jalapeño. Según OpenAI, el equipo pasó del diseño inicial al tape-out en nueve meses. Se utilizó IA para explorar opciones de implementación, optimizar bloques aritméticos y acelerar los ciclos de verificación y medición.
Posteriormente, el equipo utilizó Codex junto con GPT-Astra para optimizar el chip para tres modelos de pesos abiertos que no formaban parte del plan de producción original. El trabajo llevó dos meses. En determinados bloques de atención y mezcla de expertos de GPT-OSS, las implementaciones generadas por IA se ejecutaron entre 1,5 y 1,8 veces más rápido que las versiones anteriores escritas por expertos.
Hay una advertencia importante: esa ganancia de rendimiento se aplica a bloques de cálculo seleccionados, no al modelo GPT-OSS en su conjunto.
El problema de NVIDIA aún no es Jalapeño, sino la tendencia que hay detrás
Un único chip especializado no transformará el mercado de hardware de IA de la noche a la mañana. La ventaja de NVIDIA no reside solo en el rendimiento de cálculo bruto del GB200 o el GB300, sino también en el ecosistema de software CUDA, las redes, la arquitectura de servidores y la capacidad de utilizar la misma plataforma en una amplia gama de modelos y cargas de trabajo.
La importancia de Jalapeño está en otra parte. OpenAI sabe exactamente qué cargas de trabajo generan sus propios servicios y puede optimizar el hardware en torno a ellas. Google, Amazon y otras grandes empresas de nube han seguido la misma lógica durante años. La entrada de OpenAI en el mercado con su propio chip añade más presión para abaratar y hacer más eficiente energéticamente el cálculo de IA.
OpenAI planea desplegar Jalapeño en su propia infraestructura de cálculo a finales de 2026. Un chip de segunda generación ya se encuentra en una fase avanzada de desarrollo, mientras toma forma la arquitectura de una tercera generación.
La eficiencia energética es especialmente importante para Europa. El crecimiento de los centros de datos de IA implica competencia directa por la capacidad eléctrica y las conexiones a la red. Si los chips especializados de inferencia pueden realmente ofrecer sustancialmente más trabajo útil por kilovatio, su impacto económico podría resultar más importante que cualquier victoria individual en benchmarks frente a NVIDIA.
Jalapeño no compite con los chips de entrenamiento
Este es el primer chip interno de inferencia de OpenAI, lo que significa que se ha optimizado principalmente para ejecutar modelos que ya han sido entrenados, en lugar de entrenar nuevos modelos grandes desde cero. La empresa seguirá utilizando aceleradores de NVIDIA y otros socios tanto para el entrenamiento como para la inferencia.
OpenAI utilizó el benchmark público InferenceX y probó tres modelos: GPT-OSS 120B, DeepSeek R1 670B y Kimi K2.5 1T. Los sistemas GB200 y GB300 de NVIDIA se utilizaron como referencia comparativa.
Con GPT-OSS 120B, Jalapeño logró un rendimiento máximo de 85.448 tokens de entrada y salida por segundo por kilovatio, frente a 44.960 del GB200. Esto otorga a Jalapeño una ventaja de aproximadamente 1,9 veces. La latencia de consulta de extremo a extremo fue de 1,03 segundos frente a 1,80 segundos, respectivamente.
DeepSeek R1 produjo una brecha de latencia aún mayor. Jalapeño completó la consulta en 1,65 segundos, mientras que el GB300 necesitó 5,99 segundos. El rendimiento máximo por unidad de potencia alcanzó 19.641 tokens de entrada y salida por segundo por kilovatio en Jalapeño y 11.781 en el GB300. Con Kimi K2.5, OpenAI midió un rendimiento máximo por unidad de potencia aproximadamente 1,5 veces mayor y una latencia total 3,4 veces menor para Jalapeño.
Estas son mediciones propias de OpenAI, no resultados de un laboratorio independiente. Las cifras de eficiencia energética también deben interpretarse en el contexto de la metodología. OpenAI normalizó los resultados utilizando la potencia nominal publicada de los aceleradores, en lugar de medir el consumo eléctrico real de cada sistema competidor en condiciones idénticas.
El chip de 700 W no consumió más de 550 W en las pruebas
Jalapeño tiene una potencia nominal de 700 W. Según OpenAI, el consumo eléctrico real se mantuvo en 550 W o menos en las cargas de trabajo probadas. Para sus cálculos, la empresa utilizó la potencia nominal publicada por NVIDIA de 1.200 W para el GB200 y 1.400 W para el GB300.
El trabajo realizado por unidad de potencia está adquiriendo una importancia cada vez mayor en los grandes centros de datos de IA. La capacidad eléctrica, la refrigeración y las conexiones a la red pueden limitar el crecimiento de las granjas de servidores tanto como la disponibilidad de chips. Si se pueden atender más consultas con cada kilovatio, el coste de infraestructura por token generado o solicitud de usuario disminuye.
La arquitectura de Jalapeño está diseñada en torno a las diferentes fases de la inferencia de modelos de lenguaje. El procesamiento inicial de la entrada, o prefill, requiere principalmente capacidad de cálculo. La generación de la respuesta token a token, o decode, depende más del ancho de banda de memoria. También se consume tiempo al mover datos y el estado del modelo entre chips y unidades de cálculo.
OpenAI diseñó el procesador, la memoria, las redes y el software como un único sistema integrado para reducir el movimiento innecesario de datos. Entre otras cosas, la arquitectura permite que la caché KV utilizada durante la generación de respuestas permanezca lo más local posible.
La IA ayudó a diseñar el propio chip
La IA desempeñó un papel directo en el desarrollo de Jalapeño. Según OpenAI, el equipo pasó del diseño inicial al tape-out en nueve meses. Se utilizó IA para explorar opciones de implementación, optimizar bloques aritméticos y acelerar los ciclos de verificación y medición.
Posteriormente, el equipo utilizó Codex junto con GPT-Astra para optimizar el chip para tres modelos de pesos abiertos que no formaban parte del plan de producción original. El trabajo llevó dos meses. En determinados bloques de atención y mezcla de expertos de GPT-OSS, las implementaciones generadas por IA se ejecutaron entre 1,5 y 1,8 veces más rápido que las versiones anteriores escritas por expertos.
Hay una advertencia importante: esa ganancia de rendimiento se aplica a bloques de cálculo seleccionados, no al modelo GPT-OSS en su conjunto.
El problema de NVIDIA aún no es Jalapeño, sino la tendencia que hay detrás
Un único chip especializado no transformará el mercado de hardware de IA de la noche a la mañana. La ventaja de NVIDIA no reside solo en el rendimiento de cálculo bruto del GB200 o el GB300, sino también en el ecosistema de software CUDA, las redes, la arquitectura de servidores y la capacidad de utilizar la misma plataforma en una amplia gama de modelos y cargas de trabajo.
La importancia de Jalapeño está en otra parte. OpenAI sabe exactamente qué cargas de trabajo generan sus propios servicios y puede optimizar el hardware en torno a ellas. Google, Amazon y otras grandes empresas de nube han seguido la misma lógica durante años. La entrada de OpenAI en el mercado con su propio chip añade más presión para abaratar y hacer más eficiente energéticamente el cálculo de IA.
OpenAI planea desplegar Jalapeño en su propia infraestructura de cálculo a finales de 2026. Un chip de segunda generación ya se encuentra en una fase avanzada de desarrollo, mientras toma forma la arquitectura de una tercera generación.
La eficiencia energética es especialmente importante para Europa. El crecimiento de los centros de datos de IA implica competencia directa por la capacidad eléctrica y las conexiones a la red. Si los chips especializados de inferencia pueden realmente ofrecer sustancialmente más trabajo útil por kilovatio, su impacto económico podría resultar más importante que cualquier victoria individual en benchmarks frente a NVIDIA.
