El pimiento que quema a las GPU
Hasta hace poco, parecía que fabricar chips para inteligencia artificial era dominio de gigantes como NVIDIA, Google o Amazon. Según las últimas filtraciones, ahora OpenAI también está lista para unirse a este club. Bajo el nombre clave «jalapeño», los ingenieros de la compañía están probando su propio acelerador, diseñado para la inferencia de redes neuronales. Los primeros resultados, según se informa, fueron tan exitosos que dentro del laboratorio ya se planean lotes a gran escala para sus centros de datos.
Normalmente, los anuncios de hardware especializado se realizan en conferencias y seminarios, pero la información sobre las pruebas del «jalapeño» fue difundida por medios del sector citando fuentes anónimas. Sin embargo, la actividad de patentes y las ofertas de empleo públicas de OpenAI en el ámbito del diseño de hardware ya indicaban anteriormente que detrás de los rumores hay un trabajo de ingeniería real.
Un chip enfocado en el futuro de OpenAI
Desarrollar un chip propio solo tiene sentido si quieres optimizar el eslabón más caro de tu producto. En el caso de los modelos de lenguaje, esto es la inferencia: el momento en que miles de usuarios envían solicitudes simultáneamente. Cada una de estas solicitudes requiere una enorme cantidad de operaciones de multiplicación de matrices. Las GPU modernas resuelven esta tarea igual de bien tanto para el entrenamiento como para la inferencia, pero el entrenamiento ocurre con poca frecuencia, mientras que la inferencia es constante. Por lo tanto, ha llegado el momento de una herramienta ajustada precisamente para cargas continuas.
El «jalapeño» no es un procesador universal. No se pueden ejecutar aplicaciones comunes en él, pero para el trabajo de redes neuronales es ideal. Su arquitectura está simplificada a un conjunto de núcleos especializados que realizan principalmente operaciones de multiplicación de matrices y procesan el mecanismo de atención, la base de los transformadores y los grandes modelos de lenguaje.
¿Por qué pimiento?
A los empleados de la compañía les gusta dar a los proyectos nombres clave informales. El «jalapeño», un pimiento picante, se convirtió en una pista sobre la capacidad del chip para poner el mercado al rojo vivo. El dispositivo, por supuesto, no tiene ninguna relación con la alimentación ni con la cocina mexicana.
Primeras pruebas: velocidad y consumo energético
Los datos más interesantes por ahora solo están disponibles de segunda mano. Según afirman las fuentes, en cargas de prueba el prototipo supera varias veces a los aceleradores de servidor de gama alta en velocidad de procesamiento de solicitudes, pero el principal logro es la eficiencia energética. El chip propio de OpenAI demuestra una relación de rendimiento por vatio mucho más alta.
Esto se logró gracias a varias soluciones técnicas.
- Cálculos de baja precisión. Los pesos de los modelos pueden almacenarse y procesarse en formato de 8 bits sin una pérdida visible de calidad. El chip fue diseñado desde el principio para este tipo de cálculos.
- Pipeline reducido. Todas las instrucciones están subordinadas a una sola tarea, por lo que los núcleos no gastan ciclos en bifurcaciones innecesarias ni cambios de contexto.
- Memoria rápida. Los pesos de los modelos se encuentran directamente en el chip y junto a las unidades de cálculo, y para modelos más grandes se ha previsto una conexión de alta velocidad con la memoria externa.
El consumo energético en modo de carga completa, según datos no oficiales, resultó ser significativamente menor que en las soluciones de propósito general. Esto significa que los servidores podrán procesar más solicitudes sin ampliar la potencia ni los sistemas de refrigeración.
¿Qué cambiará en el mercado de la IA?
El éxito del «jalapeño» podría provocar cambios tectónicos. El costo de generar texto y procesar imágenes disminuirá, lo que permitirá que el acceso a la API sea más barato y accesible para las pequeñas empresas. Aparecerán nuevos productos que hoy no son económicamente viables: asistentes personalizados que funcionan en tiempo real, análisis masivo de audio y video, e incluso agentes autónomos capaces de ejecutar largas cadenas de tareas.
Además, un chip propio fortalece la posición negociadora de OpenAI con los proveedores de la nube. La compañía podrá trasladar parte de la carga a su propia plataforma. Para los usuarios, esto se traducirá en menos fallos y precios más predecibles.
No hay que olvidar tampoco la ecología: un menor consumo energético significa un menor impacto en el medio ambiente. Más aún cuando los centros de datos ya representan una parte notable de las emisiones mundiales de carbono.
Quedan preguntas
Como suele ocurrir con las noticias importantes, el «jalapeño» también genera escepticismo. Las primeras muestras de silicio pueden no ser representativas: en la producción en serie, las frecuencias de reloj suelen reducirse debido a las limitaciones térmicas y a la dispersión de las características. Se desconoce el costo de producción y el precio objetivo para los clientes; si resulta alto, el ahorro en electricidad no salvará la situación.
También está en duda la compatibilidad del chip con los frameworks populares. La mayoría de las empresas utilizan aceleradores gráficos a través de las bibliotecas de alto nivel CUDA y PyTorch, y se necesita tiempo para trasladar el código a una nueva plataforma. OpenAI, muy probablemente, utilizará el «jalapeño» junto con su propia pila de software, pero si el chip se abrirá a desarrolladores externos es una gran incógnita.
Conclusiones
La primera campanada ha sonado: el chip «jalapeño» con alta probabilidad se convertirá en un producto real, y no en un prototipo experimental. Por ahora, esto es solo una historia de ingeniería sin especificaciones oficiales ni fechas de lanzamiento. Pero si los indicadores de las pruebas se confirman, el mercado de soluciones de hardware para IA se enfrentará a un nuevo y fuerte actor capaz de reescribir las reglas habituales del juego. Esperamos declaraciones oficiales y las primeras muestras.
