O primeiro chip interno da OpenAI supera a NVIDIA em velocidade e eficiência energética
A OpenAI publicou os primeiros números detalhados de desempenho do Jalapeño, o seu primeiro chip concebido especificamente para inferência de IA. Nos próprios testes da empresa com três grandes modelos de linguagem, o chip proporcionou um débito máximo por unidade de energia 1,5-1,9 vezes superior e uma latência de consulta ponta a ponta 1,7-3,6 vezes menor do que os sistemas NVIDIA GB200 e GB300 usados para comparação. Isso não significa que a NVIDIA tenha sido destronada, mas mostra por que as maiores empresas de IA querem cada vez mais conceber uma maior parte do seu próprio hardware.
Jalapeño não concorre com chips de treino
Este é o primeiro chip de inferência interno da OpenAI, o que significa que foi otimizado principalmente para executar modelos que já foram treinados, e não para treinar novos modelos de grande escala do zero. A empresa continuará a usar aceleradores da NVIDIA e de outros parceiros tanto para treino como para inferência.
A OpenAI utilizou o benchmark público InferenceX e testou três modelos: GPT-OSS 120B, DeepSeek R1 670B e Kimi K2.5 1T. Os GB200 e GB300 da NVIDIA foram usados como sistemas de comparação.
Com o GPT-OSS 120B, o Jalapeño alcançou um débito máximo de 85.448 tokens de entrada e saída por segundo por quilowatt, em comparação com 44.960 para o GB200. Isso dá ao Jalapeño uma vantagem de aproximadamente 1,9 vezes. A latência de consulta ponta a ponta foi de 1,03 segundos, contra 1,80 segundos, respetivamente.
O DeepSeek R1 produziu uma diferença de latência ainda maior. O Jalapeño concluiu a consulta em 1,65 segundos, enquanto o GB300 precisou de 5,99 segundos. O débito máximo por unidade de energia atingiu 19.641 tokens de entrada e saída por segundo por quilowatt no Jalapeño e 11.781 no GB300. Com o Kimi K2.5, a OpenAI mediu um débito máximo por unidade de energia aproximadamente 1,5 vezes superior e uma latência total 3,4 vezes menor para o Jalapeño.
Estas são medições da própria OpenAI, e não resultados de um laboratório independente. Os números de eficiência energética também precisam de ser lidos no contexto da metodologia. A OpenAI normalizou os resultados usando a potência nominal publicada dos aceleradores, em vez de medir o consumo real de energia de cada sistema concorrente sob condições idênticas.
O chip de 700 W não consumiu mais de 550 W nos testes
O Jalapeño tem uma potência nominal de 700 W. Segundo a OpenAI, o consumo real de energia permaneceu em 550 W ou menos nas cargas de trabalho testadas. Para os seus cálculos, a empresa usou a potência nominal publicada pela NVIDIA de 1.200 W para o GB200 e 1.400 W para o GB300.
O trabalho realizado por unidade de energia está a tornar-se cada vez mais importante nos grandes centros de dados de IA. A capacidade elétrica, o arrefecimento e as ligações à rede podem limitar o crescimento das explorações de servidores tanto quanto a disponibilidade de chips. Se for possível atender mais consultas com cada quilowatt, o custo de infraestrutura por token gerado ou pedido de utilizador diminui.
A arquitetura do Jalapeño foi concebida em torno das diferentes fases da inferência de modelos de linguagem. O processamento inicial da entrada, ou prefill, é principalmente intensivo em computação. A geração da resposta token a token, ou decode, depende mais da largura de banda da memória. Também se consome tempo ao mover dados e o estado do modelo entre chips e unidades de computação.
A OpenAI concebeu o processador, a memória, a rede e o software como um único sistema integrado para reduzir movimentações desnecessárias de dados. Entre outras coisas, a arquitetura permite que a cache KV usada durante a geração de respostas permaneça o mais local possível.
A IA ajudou a conceber o próprio chip
A IA desempenhou um papel direto no desenvolvimento do Jalapeño. Segundo a OpenAI, a equipa passou do design inicial ao tape-out em nove meses. A IA foi usada para explorar opções de implementação, otimizar blocos aritméticos e acelerar ciclos de verificação e medição.
A equipa usou posteriormente o Codex juntamente com o GPT-Astra para otimizar o chip para três modelos de pesos abertos que não faziam parte do plano de produção original. O trabalho demorou dois meses. Em blocos selecionados de atenção e mixture-of-experts do GPT-OSS, implementações geradas por IA foram 1,5-1,8 vezes mais rápidas do que as versões anteriores escritas por especialistas.
Há uma ressalva importante: esse ganho de desempenho aplica-se a blocos de computação selecionados, e não ao modelo GPT-OSS como um todo.
O problema da NVIDIA ainda não é o Jalapeño, mas a tendência por trás dele
Um único chip especializado não vai remodelar o mercado de hardware de IA de um dia para o outro. A vantagem da NVIDIA não reside apenas no desempenho bruto de computação do GB200 ou do GB300, mas também no ecossistema de software CUDA, nas redes, na arquitetura de servidores e na capacidade de usar a mesma plataforma numa vasta gama de modelos e cargas de trabalho.
A importância do Jalapeño está noutro lugar. A OpenAI sabe exatamente quais cargas de trabalho os seus próprios serviços geram e pode otimizar o hardware em torno delas. A Google, a Amazon e outras grandes empresas de cloud seguem a mesma lógica há anos. A entrada da OpenAI no mercado com o seu próprio chip acrescenta mais pressão para tornar a computação de IA mais barata e mais eficiente em termos energéticos.
A OpenAI planeia implementar o Jalapeño na sua própria infraestrutura de computação até ao final de 2026. Um chip de segunda geração já está em fase avançada de desenvolvimento, enquanto a arquitetura de uma terceira geração está a ganhar forma.
A eficiência energética é particularmente importante para a Europa. O crescimento dos centros de dados de IA significa concorrência direta por capacidade elétrica e ligações à rede. Se chips de inferência especializados conseguirem realmente oferecer substancialmente mais trabalho útil por quilowatt, o seu impacto económico poderá revelar-se mais importante do que qualquer vitória isolada num benchmark contra a NVIDIA.
Jalapeño não concorre com chips de treino
Este é o primeiro chip de inferência interno da OpenAI, o que significa que foi otimizado principalmente para executar modelos que já foram treinados, e não para treinar novos modelos de grande escala do zero. A empresa continuará a usar aceleradores da NVIDIA e de outros parceiros tanto para treino como para inferência.
A OpenAI utilizou o benchmark público InferenceX e testou três modelos: GPT-OSS 120B, DeepSeek R1 670B e Kimi K2.5 1T. Os GB200 e GB300 da NVIDIA foram usados como sistemas de comparação.
Com o GPT-OSS 120B, o Jalapeño alcançou um débito máximo de 85.448 tokens de entrada e saída por segundo por quilowatt, em comparação com 44.960 para o GB200. Isso dá ao Jalapeño uma vantagem de aproximadamente 1,9 vezes. A latência de consulta ponta a ponta foi de 1,03 segundos, contra 1,80 segundos, respetivamente.
O DeepSeek R1 produziu uma diferença de latência ainda maior. O Jalapeño concluiu a consulta em 1,65 segundos, enquanto o GB300 precisou de 5,99 segundos. O débito máximo por unidade de energia atingiu 19.641 tokens de entrada e saída por segundo por quilowatt no Jalapeño e 11.781 no GB300. Com o Kimi K2.5, a OpenAI mediu um débito máximo por unidade de energia aproximadamente 1,5 vezes superior e uma latência total 3,4 vezes menor para o Jalapeño.
Estas são medições da própria OpenAI, e não resultados de um laboratório independente. Os números de eficiência energética também precisam de ser lidos no contexto da metodologia. A OpenAI normalizou os resultados usando a potência nominal publicada dos aceleradores, em vez de medir o consumo real de energia de cada sistema concorrente sob condições idênticas.
O chip de 700 W não consumiu mais de 550 W nos testes
O Jalapeño tem uma potência nominal de 700 W. Segundo a OpenAI, o consumo real de energia permaneceu em 550 W ou menos nas cargas de trabalho testadas. Para os seus cálculos, a empresa usou a potência nominal publicada pela NVIDIA de 1.200 W para o GB200 e 1.400 W para o GB300.
O trabalho realizado por unidade de energia está a tornar-se cada vez mais importante nos grandes centros de dados de IA. A capacidade elétrica, o arrefecimento e as ligações à rede podem limitar o crescimento das explorações de servidores tanto quanto a disponibilidade de chips. Se for possível atender mais consultas com cada quilowatt, o custo de infraestrutura por token gerado ou pedido de utilizador diminui.
A arquitetura do Jalapeño foi concebida em torno das diferentes fases da inferência de modelos de linguagem. O processamento inicial da entrada, ou prefill, é principalmente intensivo em computação. A geração da resposta token a token, ou decode, depende mais da largura de banda da memória. Também se consome tempo ao mover dados e o estado do modelo entre chips e unidades de computação.
A OpenAI concebeu o processador, a memória, a rede e o software como um único sistema integrado para reduzir movimentações desnecessárias de dados. Entre outras coisas, a arquitetura permite que a cache KV usada durante a geração de respostas permaneça o mais local possível.
A IA ajudou a conceber o próprio chip
A IA desempenhou um papel direto no desenvolvimento do Jalapeño. Segundo a OpenAI, a equipa passou do design inicial ao tape-out em nove meses. A IA foi usada para explorar opções de implementação, otimizar blocos aritméticos e acelerar ciclos de verificação e medição.
A equipa usou posteriormente o Codex juntamente com o GPT-Astra para otimizar o chip para três modelos de pesos abertos que não faziam parte do plano de produção original. O trabalho demorou dois meses. Em blocos selecionados de atenção e mixture-of-experts do GPT-OSS, implementações geradas por IA foram 1,5-1,8 vezes mais rápidas do que as versões anteriores escritas por especialistas.
Há uma ressalva importante: esse ganho de desempenho aplica-se a blocos de computação selecionados, e não ao modelo GPT-OSS como um todo.
O problema da NVIDIA ainda não é o Jalapeño, mas a tendência por trás dele
Um único chip especializado não vai remodelar o mercado de hardware de IA de um dia para o outro. A vantagem da NVIDIA não reside apenas no desempenho bruto de computação do GB200 ou do GB300, mas também no ecossistema de software CUDA, nas redes, na arquitetura de servidores e na capacidade de usar a mesma plataforma numa vasta gama de modelos e cargas de trabalho.
A importância do Jalapeño está noutro lugar. A OpenAI sabe exatamente quais cargas de trabalho os seus próprios serviços geram e pode otimizar o hardware em torno delas. A Google, a Amazon e outras grandes empresas de cloud seguem a mesma lógica há anos. A entrada da OpenAI no mercado com o seu próprio chip acrescenta mais pressão para tornar a computação de IA mais barata e mais eficiente em termos energéticos.
A OpenAI planeia implementar o Jalapeño na sua própria infraestrutura de computação até ao final de 2026. Um chip de segunda geração já está em fase avançada de desenvolvimento, enquanto a arquitetura de uma terceira geração está a ganhar forma.
A eficiência energética é particularmente importante para a Europa. O crescimento dos centros de dados de IA significa concorrência direta por capacidade elétrica e ligações à rede. Se chips de inferência especializados conseguirem realmente oferecer substancialmente mais trabalho útil por quilowatt, o seu impacto económico poderá revelar-se mais importante do que qualquer vitória isolada num benchmark contra a NVIDIA.
