Le piment qui fait rougir les GPU
Il y a encore peu, on pensait que produire des puces pour l'intelligence artificielle était l'apanage de géants comme NVIDIA, Google ou Amazon. Au vu des dernières fuites, OpenAI semble désormais prête à rejoindre ce club. Sous le nom de code « jalapeño », les ingénieurs de l'entreprise testent leur propre accélérateur, destiné à l'inférence des réseaux de neurones. Les premiers résultats, selon les rapports, se sont avérés si concluants que le laboratoire planifie déjà des séries à grande échelle pour ses centres de données.
Habituellement, les annonces de « hardware » spécialisé se déroulent lors de conférences et de séminaires, mais l'information sur les tests du « jalapeño » a été diffusée par les médias spécialisés, citant des sources anonymes. Cependant, l'activité en matière de brevets et les offres d'emploi publiques d'OpenAI dans le domaine de la conception matérielle indiquaient déjà que derrière ces rumeurs se cachait un véritable travail d'ingénierie.
Une puce taillée pour l'avenir d'OpenAI
Développer sa propre puce n'a de sens que si l'on souhaite optimiser le maillon le plus coûteux de son produit. Dans le cas des modèles de langage, il s'agit de l'inférence — le moment où des milliers d'utilisateurs envoient des requêtes simultanément. Chaque requête exige une quantité énorme d'opérations de multiplication matricielle. Les GPU modernes résolvent cette tâche aussi bien pour l'entraînement que pour l'inférence, mais l'entraînement est rare, tandis que l'inférence est constante. Le moment est donc venu pour un outil spécifiquement conçu pour ces charges permanentes.
Le « jalapeño » n'est pas un processeur universel. On ne peut pas y exécuter des applications ordinaires, mais pour le fonctionnement des réseaux de neurones, il est idéal. Son architecture est simplifiée en un ensemble de cœurs spécialisés qui effectuent principalement des opérations de multiplication matricielle et traitent le mécanisme d'attention — le fondement des transformeurs et des grands modèles de langage.
Pourquoi le piment ?
Les employés de l'entreprise aiment donner des noms de code informels à leurs projets. Le « jalapeño » — un piment fort — est une allusion à la capacité de la puce à faire monter la température du marché. L'appareil n'a, bien entendu, aucun rapport avec l'alimentation ou la cuisine mexicaine.
Premiers tests : vitesse et consommation d'énergie
Les données les plus intéressantes ne sont disponibles pour l'instant que par ouï-dire. Selon les sources, lors des charges de test, le prototype surpasse de plusieurs fois les meilleurs accélérateurs serveurs en vitesse de traitement des requêtes, mais la principale réussite réside dans l'efficacité énergétique. La puce maison d'OpenAI affiche un rapport performance par watt bien supérieur.
Ce résultat a été obtenu grâce à plusieurs solutions techniques.
- Calculs en basse précision. Les poids des modèles peuvent être stockés et traités au format 8 bits sans perte de qualité visible. La puce a été conçue dès le départ pour ce type de calculs.
- Pipeline raccourci. Toutes les instructions sont subordonnées à une seule tâche, si bien que les cœurs ne gaspillent pas de cycles en branchements inutiles ou en changements de contexte.
- Mémoire rapide. Les poids des modèles se trouvent directement sur la puce, à proximité des blocs de calcul, et une liaison à haute vitesse avec la mémoire externe est prévue pour les grands modèles.
La consommation d'énergie en pleine charge, selon des données non officielles, s'est avérée nettement inférieure à celle des solutions généralistes. Cela signifie que les serveurs pourront traiter davantage de requêtes sans augmenter la puissance ni les systèmes de refroidissement.
Qu'est-ce qui va changer sur le marché de l'IA ?
Le succès du « jalapeño » pourrait provoquer des bouleversements tectoniques. Le coût de génération de texte et de traitement d'images baissera, rendant l'accès par API moins cher et plus abordable pour les petites entreprises. De nouveaux produits, aujourd'hui économiquement non rentables, verront le jour : des assistants personnalisés fonctionnant en temps réel, l'analyse audio et vidéo de masse, et même des agents autonomes capables d'exécuter de longues chaînes de tâches.
De plus, une puce maison renforce la position de négociation d'OpenAI face aux fournisseurs de cloud. L'entreprise pourra transférer une partie de la charge sur sa propre plateforme. Pour les utilisateurs, cela se traduira par moins de pannes et des prix plus prévisibles.
Il ne faut pas non plus oublier l'écologie : une consommation d'énergie plus faible signifie un impact moindre sur l'environnement. D'autant que les centres de données représentent déjà une part notable des émissions mondiales de carbone.
Des questions demeurent
Comme c'est souvent le cas avec les nouvelles retentissantes, le « jalapeño » suscite aussi le scepticisme. Les premiers échantillons de silicium peuvent ne pas être représentatifs : en production, les fréquences d'horloge sont souvent réduites en raison des contraintes thermiques et de la dispersion des caractéristiques. Le coût de production et le prix cible pour les clients sont inconnus — s'il s'avère élevé, les économies d'électricité ne suffiront pas.
La compatibilité de la puce avec les frameworks populaires est également en question. La plupart des entreprises utilisent les accélérateurs graphiques via les bibliothèques de haut niveau CUDA et PyTorch, et le portage du code vers une nouvelle plateforme prend du temps. OpenAI utilisera probablement le « jalapeño » en tandem avec sa propre pile logicielle, mais savoir si la puce sera ouverte aux développeurs tiers reste une grande question.
En résumé
Le premier signal a été donné : la puce « jalapeño » deviendra très probablement un produit réel, et non un simple prototype expérimental. Pour l'instant, ce n'est qu'une histoire d'ingénierie, sans spécifications officielles ni dates de sortie. Mais si les performances des tests se confirment, le marché des solutions matérielles pour l'IA devra faire face à un nouvel acteur de poids, capable de réécrire les règles du jeu établies. Attendons les annonces officielles et les premiers échantillons.
