संदर्भ विफलता विश्लेषण का विषय
LLM में हैलुसिनेशन, कारणात्मक जनरेशन के दौरान टोकनों के बीच संदर्भ के बाधित आदान-प्रदान से जुड़े हैं। इस संबंध का अध्ययन arXiv:2609.21096 में किया गया है, जो 17 सितंबर 2026 को प्रकाशित हुआ। लेखक हैं — Amir Jalilifard, Anderson Rocha, Eric Wong, Marcos Medeiros Raimundo।
यह अध्ययन अटेंशन ग्राफ़ के भीतर सूचना प्रवाह के टोपोलॉजिकल पैटर्न का विश्लेषण करता है। इसका लक्ष्य हैलुसिनेटेड और गैर-हैलुसिनेटेड उत्तरों में अंतर करना है।
इस दृष्टिकोण के प्रमुख तत्व:
- विश्लेषण की वस्तु — अटेंशन ग्राफ़, न कि उत्तर का तैयार पाठ।
- संकेतक — टोकनों के बीच सूचना प्रवाह की टोपोलॉजी।
- कार्य — हैलुसिनेटेड और गैर-हैलुसिनेटेड उत्तरों को अलग करना।
निष्कर्ष: संदर्भ के आदान-प्रदान में बाधा अटेंशन ग्राफ़ में एक मापने योग्य संरचनात्मक निशान छोड़ती है।
Forman-Ricci वक्रता और सूचना के संकरे रास्ते
इस अध्ययन में प्रमुख मापक Forman-Ricci वक्रता है। यह उन संरचनात्मक पैटर्नों की पहचान करती है जो अटेंशन ग्राफ़ में सूचना के संकरे रास्तों की ओर संकेत करते हैं।
यह विधि अटेंशन हेड्स के सूचना प्रवाह की अर्ध-स्थानीय और वैश्विक विशेषताओं को ध्यान में रखती है। ये विशेषताएँ हैलुसिनेटेड उत्तरों से जुड़ी हैं।
गणना में शामिल हैं:
- अटेंशन हेड्स के प्रवाह की अर्ध-स्थानीय विशेषताएँ।
- अटेंशन हेड्स के प्रवाह की वैश्विक विशेषताएँ।
- इन विशेषताओं का हैलुसिनेटेड उत्तरों से संबंध।
व्यावहारिक मानदंड: प्रवाह का समग्र आकलन मूल्यवान होता है, जिसमें अर्ध-स्थानीय और वैश्विक विशेषताएँ भी शामिल हैं।
हैलुसिनेटेड उत्तर के तीन संकेत
हैलुसिनेटेड उत्तरों में अटेंशन के काम करने के विशिष्ट तरीके दिखाई देते हैं। ये सबसे स्पष्ट रूप से ट्रांसफ़ॉर्मर की आख़िरी परत में दिखते हैं।
| पैटर्न | सूचना प्रवाह कैसा दिखता है | सबसे स्पष्ट रूप से कहाँ दिखता है |
|---|---|---|
| सेल्फ-अटेंशन पर अत्यधिक निर्भरता | संदर्भ का आदान-प्रदान करने के बजाय टोकन अपने ही इर्द-गिर्द सिमट जाते हैं | ट्रांसफ़ॉर्मर की आख़िरी परत |
| संदर्भ का बिखरा हुआ निष्कर्षण | पहले के टोकनों से जानकारी बिना किसी फ़ोकस के जुटाई जाती है | ट्रांसफ़ॉर्मर की आख़िरी परत |
| सूचना का अत्यधिक संपीड़न | संदर्भ प्रवाह में बारीकियाँ खो जाती हैं | ट्रांसफ़ॉर्मर की आख़िरी परत |
निष्कर्ष: अटेंशन के तीन अलग-अलग तरीके एक ही नतीजे पर पहुँचते हैं — संदर्भ का बाधित आदान-प्रदान।
कई आधारभूत तरीकों के मुकाबले एकल-पास जाँच
इस विधि का मूल्यांकन कई LLM और आम तौर पर स्वीकृत बेंचमार्क पर किया गया। हैलुसिनेशन का पता लगाने वाले दो बेंचमार्क पर एकल-पास दृष्टिकोण लगातार मौजूदा आधारभूत तरीकों से बेहतर प्रदर्शन करता है।
आधारभूत तरीके अटेंशन संकेतकों या कई उत्तरों पर निर्भर करते हैं। अलग-अलग LLM आर्किटेक्चर पर यह विधि प्रतिस्पर्धी परिणाम दिखाती है।
| दृष्टिकोण | आधार | मूल्यांकन में परिणाम |
|---|---|---|
| Forman-Ricci वक्रता पर आधारित विधि | अटेंशन ग्राफ़ के टोपोलॉजिकल संकेतक | दो बेंचमार्क पर आधारभूत तरीकों से बेहतर; अलग-अलग LLM आर्किटेक्चर पर प्रतिस्पर्धी परिणाम |
| अटेंशन पर आधारित आधारभूत तरीके | अटेंशन संकेतक | दो बेंचमार्क पर इनसे बेहतर प्रदर्शन |
| कई उत्तरों पर आधारित आधारभूत तरीके | कई उत्तर | दो बेंचमार्क पर इनसे बेहतर प्रदर्शन |
व्यावहारिक मानदंड: एकल-पास जाँच में कई उत्तरों की आवश्यकता नहीं होती और इसे अलग-अलग LLM आर्किटेक्चर पर लागू किया जा सकता है।
