OpenAI हार्डवेयर की दौड़ में अपने पत्ते खोलता जा रहा है। Hot Chips सम्मेलन में कंपनी ने पहली बार विस्तार से अपनी इंफ़रेंस चिप — Jalapeño — दिखाई और ताज़ा परीक्षण परिणाम साझा किए, जिन्होंने कई लोगों को चौंका दिया। यदि ये आंकड़े वास्तविक लोड में सही साबित होते हैं, तो मॉडल आउटपुट बाज़ार में ताकतों का संतुलन काफ़ी बदल सकता है।
परीक्षणों ने क्या दिखाया
SemiAnalysis InferenceX बेंचमार्क में नए प्रोसेसर ने आज उपलब्ध state-of-the-art स्तर के इंफ़रेंस समाधानों को दो महत्वपूर्ण मेट्रिक्स में पीछे छोड़ दिया: प्रति उपयोगकर्ता टोकन की संख्या और खर्च की गई बिजली के प्रति किलोवाट थ्रूपुट। तुलना NVIDIA Blackwell प्रणाली के साथ की गई, जिसे वर्तमान में न्यूरल नेटवर्क आउटपुट कार्यों में एक मानक माना जाता है।
OpenAI के हार्डवेयर प्रभाग के प्रमुख रिचर्ड हो ने परिणामों को वर्तमान स्तर की तुलना में महत्वपूर्ण सुधार बताया। हालाँकि, उन्होंने तुरंत एक महत्वपूर्ण टिप्पणी जोड़ी: जब तक Jalapeño गंभीर मात्रा में उपलब्ध होगा, प्रतिस्पर्धी अपने प्लेटफ़ॉर्म को काफ़ी हद तक अपडेट कर चुके होंगे। इसलिए आज का अंतर भविष्य की गारंटी नहीं है।
फिर भी, मेट्रिक्स का चुनाव संकेतात्मक है। इंफ़रेंस करने वाले डेटा-सेंटरों के लिए, मुख्य चीज़ पीक प्रदर्शन नहीं है, बल्कि प्रत्येक टोकन की लागत और कई उपयोगकर्ताओं के लोड के तहत व्यवहार है। यहीं पर नई चिप खुद को मज़बूत दिखाना चाहती है।
जीत किस आधार पर है
Jalapeño — एक और सार्वभौमिक GPU बनाने की कोशिश नहीं है। चिप की घोषणा पिछले साल अक्टूबर में की गई थी, और इसे Broadcom के साथ मिलकर और OpenAI के अपने मॉडलों का उपयोग करके विकसित किया गया था। इस दृष्टिकोण ने इंजीनियरों को डिज़ाइन चरण में ही वास्तविक «अड़चनें» देखने की अनुमति दी।
मुख्य समस्याएँ पहले स्थान पर खुद गणनाओं को नहीं, बल्कि तैयारी के चरणों और ब्लॉकों के बीच डेटा विनिमय में देरी को रखती हैं। उदाहरण के लिए, prefill — वह चरण जब मॉडल इनपुट डेटा संसाधित करता है और संदर्भ बनाता है — अक्सर वांछित से काफ़ी अधिक समय लेता है। Jalapeño ऐसी देरी को कम करने की कोशिश करता है, और साथ ही मेमोरी और कंप्यूट कोर के बीच डेटा की आवाजाही को भी घटाता है।
OpenAI में बताते हैं: चिप मॉडल की स्थिति को स्थानीय रूप से स्पष्ट रूप से रख और बनाए रख सकती है, जिसमें KV cache भी शामिल है। इंफ़रेंस के प्रत्येक चरण में गणना, मेमोरी और नेटवर्क का आवश्यक संयोजन सक्रिय होता है, न कि पूरी प्रणाली एक साथ काम करती है। यह कुछ हद तक एक कन्वेयर की याद दिलाता है, जहाँ प्रत्येक स्टेशन अपने विशिष्ट ऑपरेशन के लिए तैयार होता है।
बिक्री पर कब उपलब्ध होगा
OpenAI यह नहीं छिपाता कि वह चिप को एक दीर्घकालिक प्लेटफ़ॉर्म मानता है: हो के अनुसार, कंपनी Jalapeño को कई पीढ़ियों में विकसित करने की योजना बना रही है। इसका मतलब है कि वर्तमान वास्तुकला — एक बार का प्रयोग नहीं है, बल्कि आगे के पुनरावृत्तियों की नींव है।
व्यापक उपयोग तक, हालाँकि, अभी बहुत दूर है। OpenAI के अनुमानों के अनुसार, 2026 के बिल्कुल अंत में चिप बहुत कम मात्रा में उपलब्ध होगी — एक पायलट आपूर्ति की तरह। अधिक ध्यान देने योग्य तैनाती 2027 में अपेक्षित है।
उस समय तक, NVIDIA भी शायद हाथ पर हाथ धरे नहीं बैठेगी और Blackwell के अपडेटेड संस्करण जारी कर सकती है। इसलिए आज बेंचमार्क में पहला स्थान — केवल एक अग्रिम भुगतान है। इससे कहीं अधिक दिलचस्प यह देखना होगा कि क्या Jalapeño अपनी बढ़त बनाए रख पाएगा, जब बात बड़े पैमाने पर उपयोग की आएगी।
