नॉलेज ग्राफ़ तथ्यों और उनके बीच संबंधों को संग्रहीत करने का एक सुविधाजनक तरीका है: लोग, कंपनियाँ, घटनाएँ, वैज्ञानिक प्रकाशन और हज़ारों प्रकार के संबंध। लेकिन ऐसे ग्राफ़ का मुख्य मूल्य डेटाबेस में नहीं, बल्कि तर्क करने की क्षमता में है: पहले से ज्ञात संबंधों के आधार पर छिपे हुए तथ्यों को खोजना। हाल के वर्षों में, इस कार्य को हल करने के लिए बड़े भाषा मॉडलों का उपयोग तेज़ी से बढ़ा है — वे टेक्स्ट के साथ अच्छा काम करते हैं और "मौके पर" सीखने में सक्षम हैं। हालाँकि, इस दृष्टिकोण की एक सूक्ष्म लेकिन महत्वपूर्ण सीमा है: मॉडल एक प्रशंसनीय उत्तर याद कर सकता है, न कि उसे ग्राफ़ की संरचना से प्राप्त कर सकता है।
arXiv (2608.17443) पर एक नए प्रीप्रिंट में, शोधकर्ताओं का एक समूह — Xingrui Zhuo, Jiapu Wang, Manzong Huang, Gongqing Wu और Xindong Wu — SIRLM मॉडल का वर्णन करता है, जो संरचनात्मक नियमों के निर्माण के माध्यम से इस समस्या से निपटने का प्रयास करता है। लेकिन समाधान पर विचार करने से पहले, यह समझना महत्वपूर्ण है कि वास्तव में क्या टूटता है।
"तर्क साक्ष्य धारणा का विचलन" क्या है
जब एक भाषा मॉडल नॉलेज ग्राफ़ के साथ काम करता है, तो उसे आमतौर पर ग्राफ़ के रूप में नहीं, बल्कि टेक्स्ट ट्रिपल के अनुक्रम के रूप में प्राप्त होता है: विषय, संबंध, वस्तु। यह प्रस्तुति अपने आप में LLM के लिए सुविधाजनक है, क्योंकि मॉडल टेक्स्ट पर प्रशिक्षित है। लेकिन ग्राफ़ केवल तथ्यों की सूची नहीं है, यह बाधाएँ भी हैं: संक्रामकता, समरूपता, प्रकारों का पदानुक्रम, विरोधाभासों पर प्रतिबंध। संरचना से टेक्स्ट में संक्रमण के दौरान, ये बाधाएँ आंशिक रूप से खो जाती हैं।
लेखक इस समस्या को "तर्क साक्ष्य धारणा का विचलन" (reasoning evidence perception drift) कहते हैं। सार यह है कि मॉडल का पैरामीट्रिक ज्ञान — वह सब कुछ जो उसने अरबों टेक्स्ट पर प्रशिक्षण के दौरान "सीखा" है — ग्राफ़ से संरचनात्मक संकेतों पर हावी होने लगता है। मॉडल आसानी से प्रश्न का उत्तर दे सकता है क्योंकि उसने प्रशिक्षण डेटा में समान विषय पहले ही देखा है, न कि इसलिए कि निष्कर्ष वास्तव में ग्राफ़ में संबंधों से अनुसरण करता है। यह एक खतरनाक स्थिति है: उत्तर आत्मविश्वासपूर्ण दिखता है, लेकिन ग्राफ़ के तर्क के दृष्टिकोण से विश्वसनीय नहीं है।
SIRLM संरचना के साथ संबंध कैसे बहाल करता है
SIRLM का विचार केवल मॉडल को नियम सुझाना नहीं है, बल्कि संरचनात्मक ज्ञान को तर्क मॉडल में ही शामिल करना है। इसके लिए संरचनात्मक नियमों के निर्माण का उपयोग किया जाता है: मॉडल "यदि संबंध A और संबंध B हैं, तो संभवतः संबंध C है" जैसे नियम बनाना सीखता है, और फिर इन नियमों को ग्राफ़ पर जाँचता है। यह दृष्टिकोण पैरामीट्रिक प्रशिक्षण को परिणाम की औपचारिक जाँच से जोड़ता है: मॉडल केवल उत्तर "याद" नहीं कर सकता, उसे अपने निष्कर्ष को ग्राफ़ में वास्तविक पथों के साथ समन्वयित करना होता है।
नियम जनरेटर SIRG
मॉडल का प्रमुख घटक — संरचनात्मक नियम जनरेटर SIRG है। यह in-context सीखने के ब्लॉक के रूप में बनाया गया है, जो संरचनात्मक संबंधों की मेमोरी से पूरित है। यदि सामान्य in-context learning मॉडल को संदर्भ से उदाहरणों का उपयोग करने की अनुमति देता है, तो संरचनात्मक संबंधों की मेमोरी इसमें यह ज्ञान जोड़ती है कि इस विशेष ग्राफ़ के लिए किस प्रकार के संबंध सामान्य हैं। इसके माध्यम से मॉडल पैरामीट्रिक ज्ञान और वर्तमान संरचना का बेहतर समन्वय करता है।
SIRG में अलग से दो महत्वपूर्ण तंत्र हैं:
- संरचनात्मक अपरिवर्तनीयता सीखने पर आधारित ग्राफ़ टोकनाइज़र — यह नोड्स और संबंधों को इस तरह प्रस्तुत करना सीखता है कि समान संरचनात्मक स्थितियाँ समान प्रस्तुतियाँ दें, भले ही वस्तुएँ स्वयं अलग हों।
- नियम-प्रतिबंधित संदेश प्रसार पर आधारित न्यूरोसिम्बोलिक तर्ककर्ता — यह ग्राफ़ पर संकेतों का प्रसार करता है, लेकिन केवल उन पथों पर जो उत्पन्न नियमों द्वारा अनुमत हैं। यह नियमों के वास्तविक निष्पादन से प्रतिक्रिया देता है: यदि नियम किसी तथ्य की पुष्टि की ओर ले गया, तो मॉडल को सकारात्मक संकेत मिलता है।
यह संयोजन सीखने योग्य संरचनात्मक प्रस्तुतियाँ प्राप्त करने और साथ ही नियमों के निष्पादन के माध्यम से उनकी विश्वसनीयता की जाँच करने की अनुमति देता है।
मानक प्रशिक्षण चक्रों में एकीकरण
SIRLM की एक मजबूत विशेषता इसकी इंजीनियरिंग व्यावहारिकता है। मॉडल को किसी विदेशी वास्तुकला की आवश्यकता नहीं है और इसे LLM प्रशिक्षण के मानक प्रतिमानों में शामिल किया जा सकता है, जिसमें SFT (लेबल किए गए उदाहरणों पर अतिरिक्त प्रशिक्षण) और GRPO (समूह सुदृढीकरण अनुकूलन) शामिल हैं। इसका मतलब है कि डेवलपर्स एक मौजूदा मॉडल ले सकते हैं और उसमें संरचनात्मक नियमों को सीखने की एक अतिरिक्त परत के रूप में जोड़ सकते हैं।
यह दृष्टिकोण न केवल गुणवत्ता के दृष्टिकोण से महत्वपूर्ण है, बल्कि मॉडल पर भरोसे के दृष्टिकोण से भी महत्वपूर्ण है। जब मॉडल के तर्क को विशिष्ट नियमों और ग्राफ़ में संबंधों के माध्यम से समझाया जा सकता है, तो उपयोगकर्ता के पास विचार की प्रक्रिया की जाँच करने की क्षमता होती है। यह उस स्थिति से बहुत अलग है जब मॉडल बिना किसी औचित्य के केवल एक संभावित उत्तर देता है।
यह कितना काम करता है
लेखकों का दावा है कि उन्होंने व्यापक प्रयोग किए: उन्होंने SIRLM की तुलना 36 डेटासेट पर KGR के 17 आधुनिक तरीकों से की। उनके आंकड़ों के अनुसार, मॉडल मौजूदा दृष्टिकोणों से काफी बेहतर प्रदर्शन करता है। यह आशाजनक दिखता है, खासकर इस तथ्य के मद्देनजर कि कई LLM विधियाँ केवल पैमाने या जटिल प्रॉम्प्ट के माध्यम से गुणवत्ता में सुधार करती हैं, न कि संरचना की वास्तविक समझ के माध्यम से।
बेशक, किसी भी प्रीप्रिंट की तरह, परिणामों को सावधानी से लिया जाना चाहिए: डेटासेट, मेट्रिक्स और आधार मॉडल का चयन अंतिम तस्वीर को प्रभावित कर सकता है। लेकिन समस्या का स्वयं निरूपण — "धारणा विचलन" — सटीक और समय पर है। LLM ने पहले ही टेक्स्ट में कुशलता से हेरफेर करना सीख लिया है, लेकिन जिम्मेदार कार्यों के लिए, जहाँ समाधान उपलब्ध साक्ष्य से अनुसरण करना चाहिए, केवल भाषाई अंतर्ज्ञान पर्याप्त नहीं है।
निष्कर्ष
नॉलेज ग्राफ़ मॉडल से अनुशासन की माँग करते हैं: निष्कर्ष संरचना पर आधारित होना चाहिए, न कि स्मृति पर। SIRLM भाषा मॉडलों के लचीलेपन को नियमों की औपचारिक कठोरता के साथ जोड़ने की दिशा में पहले उल्लेखनीय कदमों में से एक है। यह केवल बेहतर आंकड़ों वाली एक और विधि नहीं है, बल्कि LLM के ग्राफ़ के साथ बातचीत करने के तरीके को ही बदलने का प्रयास है। यदि ऐसे मॉडल स्थापित हो जाते हैं, तो ग्राफ़ पर तर्क न केवल अधिक सटीक होगा, बल्कि काफी अधिक पारदर्शी भी होगा: प्रत्येक उत्तर के पास नियमों और संबंधों का एक सत्यापन योग्य निशान होगा।
