OpenAI apuesta por el chip Jalapeño: más rápido, más eficiente y casi listo para la venta
Cuando se trata de implementar grandes modelos de lenguaje, los ingenieros constantemente tienen que buscar un equilibrio: o el sistema responde muy rápido, pero apenas soporta el flujo de solicitudes, o es capaz de procesar cargas enormes, pero a costa de retrasos notables. En OpenAI están convencidos de que han encontrado una solución que elimina esta contradicción. El chip propio de la empresa, llamado Jalapeño, según los desarrolladores, demuestra simultáneamente baja latencia y alto rendimiento. Según el vicepresidente de hardware de OpenAI, Richard Ho, la novedad ofrece «lo mejor de ambos mundos».
Jalapeño no es un procesador universal, sino un circuito integrado de aplicación específica (ASIC), creado en colaboración con Broadcom. El chip está diseñado para una tarea concreta: la inferencia, es decir, la ejecución directa de modelos entrenados para realizar tareas y operar agentes. Anunciado ya en junio, ahora ha recibido por primera vez resultados oficiales de pruebas que la empresa no duda en calificar de revolucionarios.
Qué mostraron las pruebas de rendimiento
Para evaluar las capacidades del chip, en OpenAI utilizaron su propia plataforma de pruebas comparativas, InferenceX. Como referencia para la comparación se tomaron los mejores resultados registrados en los superchips Nvidia GB200 y GB300. Las pruebas se realizaron en tres modelos populares: GPT-OSS 120B, DeepSeek R1 y Kimi K2.5 1T.
La empresa afirma que los resultados fueron impresionantes. Dependiendo del modelo, Jalapeño demostró entre 1,5 y 1,9 veces más cómputo por vatio que los sistemas de la competencia. En términos simples, esto significa que por cada kilovatio de energía gastado, el nuevo chip realiza significativamente más trabajo útil. Esto es crítico en una era en la que las facturas de electricidad de los centros de datos se están convirtiendo en uno de los principales gastos.
Aún más notable es la diferencia en la velocidad de respuesta. La latencia de extremo a extremo en los tres modelos probados resultó ser entre 1,7 y 3,6 veces menor en comparación con los sistemas de referencia basados en chips de Nvidia. En la práctica, esto se traduce en respuestas más rápidas de los asistentes, acciones más receptivas de los agentes de IA y acceso estable a los servicios incluso bajo cargas máximas. Cuanto más rápido procesa el modelo una solicitud, menos tiempo tiene el usuario que mirar el indicador de "escritura" de la respuesta.
Estrategia: no un reemplazo, sino un complemento
A pesar de estos indicadores tan prometedores, en OpenAI no tienen intención de renunciar a la colaboración con Nvidia. Richard Ho subraya que la estrategia informática general de la empresa implica el uso de una amplia gama de socios, y Nvidia sigue siendo uno de los clave. Jalapeño no reemplazará el parque de chips existente, sino que se convertirá más bien en un elemento importante para escalar la infraestructura.
La primera generación del chip está prevista para desplegarse en "volúmenes pequeños" ya antes de que termine el año en curso. La expansión a gran escala de la capacidad comenzará en 2027. La empresa deliberadamente no revela la cantidad exacta de chips que planea utilizar el próximo año. Mientras tanto, ya se está trabajando en la segunda y tercera generaciones de Jalapeño, lo que indica la naturaleza a largo plazo de esta dirección, a diferencia de muchos experimentos que nunca llegan a la etapa práctica.
El éxito de este proyecto podría reducir significativamente la dependencia de los operadores de grandes modelos de IA de un número limitado de proveedores de chips. Los ASIC propios permiten ajustar con mayor precisión la arquitectura a los algoritmos y cargas de trabajo específicos de OpenAI, ahorrando recursos y acelerando la salida de nuevos productos al mercado.
