A OpenAI continua a revelar suas cartas na corrida de hardware. Na conferência Hot Chips, a empresa mostrou pela primeira vez em detalhes seu chip para inferência — Jalapeño — e compartilhou resultados recentes de testes que surpreenderam muitos. Se esses números forem confirmados em cargas reais, o equilíbrio de forças no mercado de inferência de modelos pode mudar consideravelmente.
O que os testes mostraram
No benchmark SemiAnalysis InferenceX, o novo processador superou as soluções de inferência state-of-the-art disponíveis hoje em duas métricas importantes: quantidade de tokens por usuário e throughput por quilowatt de potência consumida. A comparação foi feita com o sistema NVIDIA Blackwell, que atualmente é considerado um dos padrões de referência em tarefas de inferência de redes neurais.
O chefe da área de hardware da OpenAI, Richard Ho, classificou os resultados como uma melhoria significativa em relação ao nível atual. No entanto, ele logo acrescentou uma ressalva importante: quando o Jalapeño estiver disponível em volumes expressivos, os concorrentes podem ter tempo de atualizar seriamente suas plataformas. Portanto, a vantagem atual não é uma garantia para o futuro.
Ainda assim, a escolha das métricas é reveladora. Para data centers que lidam com inferência, o mais importante não é o desempenho máximo, mas o custo por token e o comportamento sob carga de muitos usuários. É exatamente aí que o novo chip quer se destacar.
No que se baseia a vantagem
O Jalapeño não é uma tentativa de criar mais um GPU universal. O chip foi anunciado em outubro do ano passado e desenvolvido em parceria com a Broadcom, utilizando os modelos proprietários da OpenAI. Essa abordagem permitiu que os engenheiros identificassem os reais "gargalos" ainda na fase de design.
Os principais problemas não estão nos cálculos em si, mas nas latências nas etapas preparatórias e na troca de dados entre os blocos. Por exemplo, o prefill — etapa em que o modelo processa os dados de entrada e forma o contexto — muitas vezes leva consideravelmente mais tempo do que o desejado. O Jalapeño busca minimizar exatamente essas latências e, ao mesmo tempo, reduzir a movimentação de dados entre a memória e os núcleos de computação.
Na OpenAI, explicam que o chip consegue alocar e manter explicitamente o estado do modelo localmente, incluindo o KV cache. Em cada etapa da inferência, é ativada a combinação necessária de computação, memória e rede, em vez de todo o sistema funcionar de uma vez. Isso lembra um pipeline, onde cada estação é preparada especificamente para sua operação.
Quando estará à venda
A OpenAI não esconde que trata o chip como uma plataforma de longo prazo: segundo Ho, a empresa planeja desenvolver o Jalapeño em várias gerações. Isso significa que a arquitetura atual não é um experimento pontual, mas a base para iterações futuras.
No entanto, a adoção ampla ainda está longe. De acordo com estimativas da OpenAI, no final de 2026 o chip aparecerá em volumes muito pequenos — mais como uma entrega piloto. Uma implantação mais expressiva é esperada para 2027.
Até lá, a NVIDIA provavelmente também não ficará parada e pode lançar versões atualizadas do Blackwell. Portanto, o primeiro lugar nos benchmarks hoje é apenas um adiantamento. O mais interessante é ver se o Jalapeño conseguirá manter a vantagem quando se tratar de operação em massa.
