मॉडल आत्मविश्वास से झूठ क्यों बोलते हैं
आधुनिक बड़े भाषा मॉडल विभिन्न प्रश्नों के उत्तर देने की क्षमता से प्रभावित करते हैं। लेकिन इस आत्मविश्वास के पीछे अक्सर एक गंभीर दोष छिपा होता है: मॉडल काल्पनिक तथ्यों के आधार पर सुंदर और सुसंगत उत्तर दे सकता है। प्रमुख कारणों में से एक तथाकथित ज्ञान असंतुलन है: पूर्व-प्रशिक्षण चरण में मॉडल डेटा के विशाल समूहों को आत्मसात करता है, और विशिष्ट कार्यों के लिए ठीक-ट्यूनिंग चरण में इसमें नए निर्देश "डाले" जाते हैं। परिणामस्वरूप, मॉडल हमेशा यह नहीं समझ पाता कि वह वास्तव में जो जानता है वह कहाँ समाप्त होता है और अज्ञानता का क्षेत्र कहाँ शुरू होता है।
Joosung Lee और उनके सहयोगियों की टीम के शोधकर्ताओं ने एक दृष्टिकोण प्रस्तावित किया है जो मॉडलों को ईमानदारी से "मुझे नहीं पता" कहने में मदद करता है, जब उत्तर वास्तव में उनकी क्षमता की सीमा से परे होता है। यह कार्य EMNLP 2026 के Findings के रूप में स्वीकार किया गया और arXiv पर प्रकाशित किया गया।
विशिष्ट उदाहरण के स्तर पर ज्ञान का आकलन
मुख्य चुनौती यह समझना है कि क्या मॉडल किसी विशिष्ट प्रश्न का उत्तर जानता है, न कि समग्र रूप से "विषय" का। मॉडल एक क्षेत्र में उत्कृष्ट हो सकता है और पड़ोसी क्षेत्र में पूरी तरह से अनभिज्ञ हो सकता है। इसलिए, लेखक प्रत्येक अनुरोध के लिए व्यक्तिगत रूप से ज्ञान का आकलन करने का सुझाव देते हैं।
इसके लिए मल्टी-सैंपलिंग इन्फ्रेंस का उपयोग किया जाता है: मॉडल से एक ही प्रश्न कई बार पूछा जाता है, और फिर विश्लेषण किया जाता है कि उसके उत्तर कितने स्थिर और सुसंगत हैं। यदि उत्तर उच्च स्तर के आत्मविश्वास के साथ दोहराए जाते हैं और एक-दूसरे से मेल खाते हैं — तो मॉडल, सबसे अधिक संभावना है, वास्तव में विषय को "जानता" है। यदि उत्तर अव्यवस्थित रूप से बदलते हैं या मॉडल अलग-अलग संस्करण देता है — यह एक संकेत है कि ज्ञान मौजूद नहीं है।
यह दृष्टिकोण एक एकल जनरेशन में मॉडल के सामान्य आत्मविश्वास की तुलना में अधिक विश्वसनीय और सूक्ष्म-स्तरीय संकेतक देता है। यह आगे के प्रशिक्षण का आधार बन जाता है।
मॉडल जो पहले से जानता है उसे ध्यान में रखते हुए ठीक-ट्यूनिंग
प्राप्त ज्ञान संकेतक का उपयोग बाहरी मूल्यांकन के रूप में नहीं, बल्कि ठीक-ट्यूनिंग के लिए नियंत्रण संकेत के रूप में किया जाता है। विचार यह है कि मॉडल को विभिन्न उदाहरणों पर अलग-अलग तरीके से सिखाया जाना चाहिए:
- यदि मॉडल उत्तर जानता है — प्रशिक्षण संकेत को प्रबल किया जाता है ताकि सही व्यवहार को मजबूत किया जा सके और पहले से मौजूद कौशल न खोएं।
- यदि मॉडल उत्तर नहीं जानता — संकेत को अलग तरीके से स्केल किया जाता है, और मॉडल को यादृच्छिक या अर्ध-प्रशंसनीय पाठ उत्पन्न करने के बजाय स्पष्ट रूप से "मुझे नहीं पता" उत्तर देने के लिए अतिरिक्त रूप से प्रोत्साहित किया जाता है।
यह दृष्टिकोण उस स्थिति से बचने में मदद करता है जहां नए डेटा पर ठीक-ट्यूनिंग मॉडल के ज्ञान की सीमाओं को "मिटा" देती है और उसे हर चीज़ का उत्तर देने के लिए मजबूर करती है, जिसमें वह भी शामिल है जिसमें वह पारंगत नहीं है। इसके बजाय, मॉडल उन अनुरोधों को पहचानना सीखता है जो उसकी क्षमता के क्षेत्र से बाहर हैं और ईमानदारी से इसकी सूचना देता है।
कैसे मापें कि मॉडल अधिक ईमानदार हो गया है
केवल मतिभ्रम की संख्या कम करना पर्याप्त नहीं है — यह महत्वपूर्ण है कि मॉडल उन सवालों का जवाब देने से बड़े पैमाने पर इनकार न करने लगे जिन्हें वह वास्तव में जानता है। इसलिए, शोधकर्ताओं ने अनिश्चितता के आकलन के लिए विशेष मेट्रिक्स प्रस्तावित किए। वे न केवल "ज्ञान आधार" के सवालों पर सटीकता का आकलन करते हैं, बल्कि मॉडल की ज्ञात उदाहरणों को अज्ञात से अलग करने की क्षमता का भी आकलन करते हैं।
प्रयोगों का मुख्य परिणाम: प्रस्तावित विधि मॉडल को स्पष्ट रूप से अनिश्चितता व्यक्त करने की अनुमति देती है जब ज्ञान अपर्याप्त होता है, और साथ ही उन सवालों पर सटीकता नहीं खोती जिनका वह उत्तर दे सकता है। ज्ञात और अज्ञात का सटीक भेद अंतिम प्रदर्शन में लगातार सुधार करता है — यानी मॉडल अधिक सावधान और विश्वसनीय बन जाता है।
निष्कर्ष
"मुझे नहीं पता" कहने की क्षमता — यह कमजोरी नहीं है, बल्कि LLM के सुरक्षित अनुप्रयोग का एक आवश्यक हिस्सा है। ज्ञान-भारित ठीक-ट्यूनिंग विधि याद दिलाती है: मतिभ्रम से निपटने के लिए और अधिक तथ्यों को "रटना" आवश्यक नहीं है। मॉडल को अपनी सीमाओं का ईमानदारी से आकलन करना और उनसे आगे नहीं जाना सिखाना पर्याप्त है। यह दृष्टिकोण मॉडलों को वास्तविक परिदृश्यों में अधिक उपयोगी बनाता है, जहां आत्मविश्वासपूर्ण गलत सूचना की तुलना में ईमानदार इनकार प्राप्त करना बेहतर है।
