बोलियाँ: समझते हैं, लेकिन बोल नहीं पाते
आधुनिक बड़े भाषा मॉडल बोली-आधारित अंग्रेज़ी को समझने में काफी अच्छे हैं — वे क्षेत्रीय भाषा-प्रकार में पूछे गए सवाल या कमांड को पार्स कर सकते हैं। लेकिन जैसे ही आप मॉडल से उसी शैली में जवाब देने को कहते हैं, वह लगभग हमेशा मानक अंग्रेज़ी पर स्विच कर देता है, जो अक्सर अमेरिकी मानक पर केंद्रित होती है। एक दिलचस्प अंतर पैदा होता है: मॉडल बोली को सुनता है, उसकी बेहतरीन व्याख्या करता है, लेकिन "साहित्यिक" भाषा में बोलता है। शोध साहित्य में इस घटना को robustness-generation gap कहा जाता है — गैर-मानक इनपुट के प्रति मजबूती और उसे अपनी पीढ़ी में दोहराने की क्षमता के बीच का अंतर।
इसी अंतर का अध्ययन करने का निर्णय DiaLLM कार्य के लेखकों ने लिया, जो हाल ही में arXiv (2607.07669) पर प्रकाशित हुआ है। उन्होंने सवाल उठाया: क्या खुले भाषा मॉडल को सिर्फ बोलियों को समझना ही नहीं, बल्कि सक्रिय रूप से उनमें बोलना भी सिखाया जा सकता है — और यदि हाँ, तो कौन से प्रशिक्षण तरीके सबसे अच्छे परिणाम देते हैं।
DiaLLM क्या प्रस्तावित करता है
शोधकर्ताओं ने किसी एक बोली पर मॉडल को दोबारा प्रशिक्षित नहीं किया। इसके बजाय, उन्होंने खुले LLM के तीन परिवार लिए और उन्हें अंग्रेज़ी के अंतर्राष्ट्रीय कोष (International Corpus of English) पर प्री-ट्रेनिंग जारी रखी। ऐसे कोष में ऑस्ट्रेलियाई से लेकर भारतीय तक कई राष्ट्रीय और क्षेत्रीय प्रकारों के पाठ शामिल होते हैं।
आगे प्रशिक्षण को दो दिशाओं में विभाजित किया गया: अंतर्निहित प्रतिमान, जिसमें मॉडल उदाहरणों से बोली की विशेषताओं को खुद सीखता है, और स्पष्ट प्रतिमान, जिसमें मॉडल को स्पष्ट रूप से बोली-आधारित अभिव्यक्तियाँ चुनने के लिए प्रशिक्षित किया जाता है। प्रत्येक दिशा को आगे तीन संरेखण रणनीतियों में से एक के साथ जोड़ा गया। परिणामस्वरूप प्रयोगों का एक मैट्रिक्स बना, जो प्रशिक्षण के प्रत्येक चरण के योगदान का अलग-अलग मूल्यांकन करने की अनुमति देता है।
लेखकों के दावे के अनुसार, यह ऑस्ट्रेलियाई, भारतीय और उत्तरी अंग्रेज़ी प्रकारों के लिए ऐसे घटकों की पहली नियंत्रित तुलना है। पहले किसी ने इन तरीकों को एक समान प्रयोगात्मक आधार पर नहीं जाँचा था।
प्रयोगों ने क्या दिखाया
मुख्य निष्कर्ष — बोली को समझने की क्षमता और उसे उत्पन्न करने की क्षमता वास्तव में सीधे तौर पर जुड़ी नहीं हैं। एक दूसरे से नहीं निकलता: मॉडल बोली-आधारित संरचनाओं को शानदार ढंग से संसाधित कर सकता है और फिर भी मानक भाषा में जवाब देने पर अड़ा रहता है।
एक और बात दिलचस्प है। स्वचालित बेंचमार्क पर मॉडलों के परिणाम मुख्य रूप से निरंतर प्री-ट्रेनिंग और supervised fine-tuning (SFT) द्वारा निर्धारित होते थे। परीक्षण मेट्रिक्स पर संरेखण का प्रभाव लगभग नगण्य था। लेकिन इसका मतलब यह नहीं कि संरेखण बेकार है: इसने उत्तरों की शैली को काफी बदल दिया, बस मानक बेंचमार्क ऐसे बदलावों के प्रति संवेदनशील नहीं हैं। इसका मतलब यह है कि अगर मॉडलों का मूल्यांकन सिर्फ आँकड़ों से किया जाए, तो गलती से यह निष्कर्ष निकल सकता है कि सभी तरीके समकक्ष हैं।
बोलियों की पीढ़ी एक कठिन कार्य क्यों है
लेखकों ने अलग से किसी विशिष्ट भाषा-प्रकार के लिए स्पष्ट अनुकूलन और बोली से जुड़े व्यापक संरेखण की तुलना की। स्पष्ट दृष्टिकोण ने वास्तव में ऐसे पाठ दिए, जिन्हें स्वचालित क्लासिफायर और लोग दोनों आत्मविश्वास से बोली-आधारित मानते थे। ऐसे उत्तरों को व्यापक संरेखण की तुलना में उच्च रेटिंग मिली।
लेकिन यहाँ एक अप्रत्याशित बारीकियाँ सामने आईं। जिस विधि ने "बोली इनाम" को सबसे आक्रामक रूप से अनुकूलित किया, यानी मॉडल को बोली-आधारित मुहावरों के लिए सबसे अधिक प्रोत्साहित किया, वह अंततः मानव मूल्यांकनकर्ताओं को पसंद नहीं आई। एल्गोरिदम में डाला गया औपचारिक मानदंड गुणवत्तापूर्ण बोली-भाषण की मानवीय धारणा से मेल नहीं खाता। अतिरिक्त भाषाई विश्लेषण ने पुष्टि की: औपचारिक अनुकूलन और वास्तविक गुणवत्ता के बीच एक अंतर है, जो तीन मॉडल परिवारों में से दो में विशेष रूप से ध्यान देने योग्य है।
इस प्रकार, तीनों संरेखण रणनीतियों में से किसी ने भी बिना शर्त श्रेष्ठता नहीं दिखाई। "मॉडल को बोली पर प्रशिक्षित करो और बोली बोलने वाला सहायक पाओ" जैसा कोई सरल नुस्खा मौजूद नहीं है। अंतर को पाटने के लिए, इनाम डिज़ाइन की अधिक सूक्ष्म योजनाओं की आवश्यकता है — जो मानक से विचलन के लिए एक जुर्माने तक सीमित न हों — और प्रशिक्षण के लिए बेहतर गुणवत्ता वाले बोली संसाधनों की।
निष्कर्ष और संभावनाएँ
DiaLLM का कार्य इसलिए मूल्यवान है क्योंकि यह एक व्यवस्थित तस्वीर देता है कि प्रशिक्षण के विभिन्न चरण बोली-पीढ़ी को कैसे प्रभावित करते हैं। व्यवसायियों के लिए इसका मतलब है: यदि आप चाहते हैं कि सहायक ऑस्ट्रेलियाई या भारतीय अंग्रेज़ी में बात करे, तो अकेले निरंतर प्री-ट्रेनिंग पर्याप्त नहीं है। एक सुविचारित संरेखण की आवश्यकता होगी, और उसके परिणाम को केवल स्वचालित बेंचमार्क से ही नहीं, बल्कि जीवित बोली-भाषियों की भागीदारी से भी जाँचा जाना चाहिए।
अच्छी खबर: लेखक कोड, चेकपॉइंट और मानवीय प्राथमिकताओं वाले डेटासेट प्रकाशित करने की योजना बना रहे हैं। यह अन्य टीमों को प्रयोग जारी रखने और सुदृढीकरण सीखने के अधिक जटिल तरीकों को आज़माने की अनुमति देगा।
फिलहाल मुख्य निष्कर्ष लगभग विरोधाभासी लगता है: बड़े भाषा मॉडल बोलियों को समझने में लगातार बेहतर होते जा रहे हैं, लेकिन उनमें बोलने की उनकी क्षमता एक अनसुलझा कार्य बनी हुई है, जिसे केवल प्रशिक्षण डेटा की मात्रा बढ़ाकर हल नहीं किया जा सकता।
