OpenAI sigue revelando sus cartas en la carrera de hardware. En la conferencia Hot Chips, la compañía mostró por primera vez en detalle su chip para inferencia — Jalapeño — y compartió resultados frescos de pruebas que sorprendieron a muchos. Si estas cifras se confirman en cargas de trabajo reales, el equilibrio de fuerzas en el mercado de inferencia de modelos podría cambiar notablemente.
Qué mostraron las pruebas
En el benchmark SemiAnalysis InferenceX, el nuevo procesador superó a las soluciones de inferencia de nivel state-of-the-art disponibles hoy en dos métricas importantes: la cantidad de tokens por usuario y el rendimiento por kilovatio de potencia consumida. La comparación se realizó con el sistema NVIDIA Blackwell, que actualmente se considera uno de los referentes en tareas de inferencia de redes neuronales.
El director de hardware de OpenAI, Richard Ho, calificó los resultados como una mejora significativa respecto al nivel actual. Eso sí, añadió de inmediato una salvedad importante: para cuando Jalapeño esté disponible en volúmenes serios, los competidores podrían haber actualizado seriamente sus plataformas. Así que la brecha actual no es una garantía para el futuro.
Aun así, la elección de métricas es reveladora. Para los centros de datos dedicados a la inferencia, lo principal no es el rendimiento máximo, sino el costo por token y el comportamiento bajo la carga de muchos usuarios. Es aquí donde el nuevo chip quiere demostrar su fortaleza.
En qué se basa la ventaja
Jalapeño no es un intento de crear otro GPU universal. El chip se anunció en octubre del año pasado y se desarrolló junto con Broadcom, utilizando los propios modelos de OpenAI. Este enfoque permitió a los ingenieros identificar los verdaderos «cuellos de botella» ya en la etapa de diseño.
Los principales problemas no radican en los propios cálculos, sino en las latencias en las etapas preparatorias y en el intercambio de datos entre bloques. Por ejemplo, el prefill —la etapa en la que el modelo procesa los datos de entrada y forma el contexto— suele llevar mucho más tiempo del deseado. Jalapeño busca minimizar precisamente estas latencias y, de paso, reduce el movimiento de datos entre la memoria y los núcleos de cómputo.
En OpenAI explican que el chip puede colocar y mantener explícitamente el estado del modelo de forma local, incluida la caché KV. En cada etapa de la inferencia se activa la combinación necesaria de cómputo, memoria y red, en lugar de que todo el sistema funcione a la vez. Esto recuerda a una cadena de montaje donde cada estación está preparada específicamente para su operación.
Cuándo estará a la venta
OpenAI no oculta que considera el chip una plataforma a largo plazo: según Ho, la compañía planea desarrollar Jalapeño en varias generaciones. Esto significa que la arquitectura actual no es un experimento puntual, sino la base para futuras iteraciones.
Eso sí, aún queda mucho para su uso generalizado. Según las estimaciones de OpenAI, a finales de 2026 el chip aparecerá en volúmenes muy reducidos —más como un envío piloto—. Un despliegue más notable se espera para 2027.
Para entonces, NVIDIA probablemente tampoco se quedará de brazos cruzados y podría lanzar versiones actualizadas de Blackwell. Por eso, el primer lugar en los benchmarks de hoy es solo un anticipo. Mucho más interesante será ver si Jalapeño puede mantener su ventaja cuando se trate de explotación a gran escala.
