ट्रेस पर निर्भरता कितनी खतरनाक है
मिश्रित-विशेषज्ञ (MoE) आर्किटेक्चर वाले मॉडल में, हर टोकन "विशेषज्ञों" के एक छोटे उपसमूह से होकर गुजरता है। प्रोसेसिंग के बाद एक औपचारिक निशान बचता है — किन विशेषज्ञों को बुलाया गया और किन वज़नों के साथ। ऐसे ट्रेस को स्पष्टीकरण के रूप में उपयोग करना सुविधाजनक है, लेकिन यह बातचीत की सामग्री के बिना फ़ोन कॉल के रिकॉर्ड जैसा है: यह दिखता है कि किसने किसे कॉल किया, लेकिन यह नहीं दिखता कि क्या तय हुआ।
हालिया प्रीप्रिंट (Chen et al., arXiv:2608.17638) दिखाता है कि ट्रेस-आधारित व्याख्या जानकारी की एक महत्वपूर्ण परत को छोड़ देती है। लेखक केवल दृश्यमान मार्ग को ही नहीं, बल्कि मॉडल की तर्क प्रक्रिया की आंतरिक स्थिति को भी पढ़ने का सुझाव देते हैं। मुख्य विचार — दो-स्तरीय रीडिंग: पहले एक कॉम्पैक्ट सिमेंटिक स्पेस, फिर एक सस्ता प्रॉक्सी, जो सामान्य रूटिंग सांख्यिकी से पुनर्निर्मित होता है।
दो-स्तरीय स्टेट रीडर
J64: पूर्ण शब्दकोश के बजाय 64 अक्ष
पहला स्तर J स्पेस से बनता है, जिसका आकार मॉडल के शब्दकोश के बराबर है। इस स्पेस को एक कॉम्पैक्ट सिमेंटिक फ्रेम J64 में डिस्टिल किया जाता है — कुल 64 अक्ष। यह एक मनमाना विषयगत प्रोजेक्शन नहीं है, बल्कि इनवेरिएंट्स का एक सेट है, जो मॉडल की अपनी तर्क अवस्थाओं पर प्रशिक्षित होता है।
J64 का मुख्य लाभ यह है कि यह उन अवस्थाओं को देखता है जो दृश्यमान ट्रेस में नहीं होतीं। दो समान रूटिंग ट्रेस अलग-अलग आंतरिक प्रक्रियाओं को छिपा सकते हैं, और J64 उन्हें अलग करने में मदद करता है। इसके अलावा, यह दो अलग-अलग भारों को अलग करता है: मॉडल तर्क में कितना प्रयास लगाता है और उदाहरण स्वयं उसके लिए कितना कठिन है।
रखे गए डेटा पर परीक्षण से पता चलता है कि ROC-वक्र के अंतर्गत क्षेत्र में वृद्धि आधार दृष्टिकोण की तुलना में 0.096–0.135 है, जो उसी रोलआउट को टोकन भराव के रूप में पढ़ता है और उसी एग्रीगेशन का उपयोग करता है। यानी, सुधार स्टेट पढ़ने के तरीके से आता है, न कि मॉडल या डेटा प्रारूप में बदलाव से।
R64: सस्ती सांख्यिकी से वही तस्वीर
J64 में एक व्यावहारिक कमी है: इसे मॉडल के आंतरिक प्रतिनिधित्व तक पहुंच की आवश्यकता होती है। दृष्टिकोण को प्रोडक्शन में लागू करने योग्य बनाने के लिए, लेखक J64 को देशी विशेषज्ञ रूटिंग सांख्यिकी से पुनर्निर्मित करते हैं। यह प्रॉक्सी R64 कहलाता है और इन्फ्रेंस के दौरान महत्वपूर्ण अतिरिक्त लागत नहीं बनाता।
तीन मॉडलों और दो आर्किटेक्चर परिवारों में R64 और J64 के बीच माध्यिका प्रति-अक्ष सहसंबंध 0.69–0.86 तक पहुंचता है। gpt-oss-20b मॉडल पर, R64 मूल J64 के पूर्वानुमानित लाभ का 95–100% बनाए रखता है। दूसरे शब्दों में, कई कार्यों के लिए पूर्ण सिमेंटिक स्पेस की गणना करना आवश्यक नहीं है: मौजूदा रूटिंग तंत्र से सांख्यिकी लेना पर्याप्त है।
टेस्ट-टाइम निर्णयों के लिए दो अस्थायी रिज़ॉल्यूशन
स्टेट रीडिंग केवल पोस्ट-फैक्टम स्पष्टीकरण के रूप में नहीं, बल्कि निर्णय लेने के उपकरण के रूप में भी काम करती है। लेखक दो परिदृश्यों पर विचार करते हैं: पूर्ण उम्मीदवारों का विश्लेषण और वास्तविक समय में जनरेशन का प्रबंधन।
तैयार विकल्पों में से चयन
जब मॉडल पहले ही कई उत्तर विकल्प उत्पन्न कर चुका होता है, J64 और R64 उम्मीदवारों में से एक शाखा के चयन में सुधार करते हैं। अलग से भारित मतदान की जाँच की गई: यदि साधारण बहुमत के बजाय R64 के वज़न का उपयोग किया जाए, तो परिणाम आठ में से सात सेटिंग्स में सामान्य मेजॉरिटी वोटिंग से बेहतर होता है। इसका मतलब है कि छिपी हुई स्थिति को उत्तर एग्रीगेशन के लिए अधिक सटीक संकेत के रूप में उपयोग किया जा सकता है।
जनरेशन के दौरान रोक और पुनः नमूनाकरण
दूसरा परिदृश्य — जनरेशन, जहां टोकन आने पर निर्णय लेने की आवश्यकता होती है। स्लाइडिंग रीडिंग विंडो एक संचयी "रोकें और पुनः नमूना लें" नीति में फीड की जाती हैं: एक निश्चित क्षण में मॉडल वर्तमान शाखा को रोकता है और फिर से जनरेट करना शुरू करता है। इस नीति का कार्य बिंदु केवल प्रशिक्षण प्रश्नों पर तय किया जाता है, इसलिए परीक्षण पर विधि ज्ञात उत्तरों के अनुरूप नहीं बनती।
J64 नियंत्रण प्रयोग की तुलना में सटीकता में 1.1–5.9 अंक की वृद्धि देता है, जिसमें फेरबदल किए गए सिबलिंग का उपयोग किया गया था। केवल रूटिंग पर निर्मित R64, इस लाभ का 0.9–3.2 अंक बनाए रखता है। यहां तक कि सस्ता प्रॉक्सी भी जनरेशन प्रबंधन के लिए काफी उपयोगी साबित होता है।
क्या राउटर के माध्यम से तर्क को बदला जा सकता है
काम का अंतिम भाग निष्क्रिय व्याख्या से परे जाता है। शोधकर्ता राउटर को इस तरह संपादित करते हैं कि J64 के अनुरूप तंत्र प्रभावित हो। इसके बाद मॉडल का व्यवहार पूर्वानुमानित तरीके से बदलता है — उस तरीके से जो J64 की व्याख्या से अनुसरण करता है। निदान योग्य "अटकना" संख्यात्मक अनुमान से सटीक प्रतीकात्मक निष्पादन की ओर स्थानांतरित हो जाता है।
यह एक महत्वपूर्ण संकेत है: J64 के अक्ष केवल सहसंबंध नहीं, बल्कि तर्क में कारणात्मक भूमिका दर्ज करते हैं। यदि राउटर संपादन अपेक्षित परिवर्तन देता है, तो पढ़ी गई स्थिति वास्तव में निर्णय लेने में भाग लेती है, न कि केवल एक पार्श्व कलाकृति है।
MoE ट्रेसिंग मॉडल के लिए एक सुविधाजनक, लेकिन बहुत मोटा इंटरफ़ेस बनी हुई है। दो-स्तरीय रीडिंग — पहले एक किफायती सिमेंटिक प्रोजेक्शन, फिर रूटिंग-आधारित प्रॉक्सी — दृश्यमान विशेषज्ञ कॉल से पहले और उसके अलावा क्या होता है, यह देखने की अनुमति देती है। ऐसे आंतरिक "डैशबोर्ड" बड़े मॉडलों की डिबगिंग और प्रबंधन के लिए अगला मानक उपकरण बन सकते हैं।
