जब न्यायाधीश पक्षपाती हो: स्व-सीखने वाले एजेंट बेकार कौशल से छुटकारा पाना बंद कर देते हैं
एक एजेंट की कल्पना करें जो स्वयं अपने कौशल पुस्तकालय को समृद्ध करता है: नए दृष्टिकोण आज़माता है, सफल को रखता है, बेकार को हटा देता है। इसे काम करने के लिए, एक तंत्र की आवश्यकता होती है जो पुस्तकालय को कबाड़ से भरने से रोकता है। ऐसे एजेंटों के आधुनिक डिज़ाइन में, यह भूमिका skill retirement निभाता है — एक संरचनात्मक बाधा जो गारंटी देती है कि कौशल शस्त्रागार «बिना कौशल के» स्थिति से बदतर नहीं होगा। लेकिन, जैसा कि शोधकर्ताओं के एक समूह के ताज़ा काम ने दिखाया, इस गारंटी में एक छिपी हुई कमजोरी है: यह गुणवत्ता के ईमानदार मूल्यांकन पर निर्भर करती है। और यदि मूल्यांकन LLM-न्यायाधीश द्वारा किया जाता है, तो ईमानदारी की गारंटी नहीं है।
Retirement क्यों महत्वपूर्ण है
जो एजेंट लगातार नए कौशल का आविष्कार करता है, उसके सामने एक स्वाभाविक समस्या होती है: उनमें से कुछ न केवल बेकार होते हैं, बल्कि हानिकारक भी — वे बुनियादी कार्यों को करने में बाधा डालते हैं। बिना किसी बाधा के, पुस्तकालय अनिश्चित काल तक बढ़ता है, और गुणवत्ता गिरती है। Skill retirement एक माली की तरह है जो समय पर खरपतवार उखाड़ देता है। यह तंत्र इस पर आधारित है कि प्रत्येक कौशल के योगदान को मापा जा सकता है: यदि कौशल कोई लाभ नहीं देता, तो उसे हटा दिया जाता है।
लेकिन योगदान को कैसे मापें जब कोई संदर्भ उत्तर न हो? कई व्यावहारिक कार्यों में — रिपोर्ट लिखना, पाठ विश्लेषण, योजना बनाना — कोई सही समाधान मौजूद नहीं होता। इसलिए वस्तुनिष्ठ जाँच के बजाय LLM-न्यायाधीश का उपयोग करना पड़ता है। और यहीं समस्या की जड़ छिपी है।
पूर्वाग्रह वाला न्यायाधीश: मौन तोड़फोड़
लेख «The Blind Curator: How a Biased Judge Silently Disables Skill Retirement in Self-Evolving Agents» (Zhang, Cui, Wang, Li, Qiu, Zhu, He — कार्य COLM 2026 Workshop on Agent Behavior में प्रस्तुत) के लेखकों ने जाँच की कि क्या होता है यदि न्यायाधीश व्यवस्थित रूप से गलती करता है। उन्होंने एक महत्वपूर्ण प्रकार की त्रुटि की पहचान की — false-pass: जब न्यायाधीश एक असफल परिणाम को सफल के रूप में पास कर देता है। लगता है, थोड़ा सा झुकाव — तो क्या, न्यायाधीश बहुत उदार है। वास्तव में, यह एक अप्रत्याशित प्रभाव की ओर ले जाता है: पक्षपाती न्यायाधीश केवल मूल्यांकन में शोर नहीं जोड़ता, वह retirement तंत्र को पूरी तरह से बंद कर देता है।
प्रयोग की शुद्धता के लिए, शोधकर्ताओं ने पूर्वाग्रह के प्रभाव को सामान्य शोर से अलग किया। यह पता चला कि सममित शोर (न्यायाधीश दोनों दिशाओं में समान रूप से गलती करता है) retirement के काम में बाधा नहीं डालता। लेकिन झूठी सफलताओं की ओर असममित झुकाव सब कुछ तोड़ देता है।
तीव्र सीमा जिसे पार नहीं किया जा सकता
सबसे दिलचस्प बात यह है कि विफलता कैसे होती है। यह क्रमिक नहीं है। जब तक false-pass का अनुपात लगभग 0,45 से अधिक नहीं होता — यानी न्यायाधीश आधे से कम विफलताओं को पास करता है — तंत्र काम करता है। लेकिन जैसे ही यह सीमा पार होती है, योगदान-आधारित retirement पूरी तरह से काम करना बंद कर देता है। डेटा की मात्रा या पुनरावृत्तियों की संख्या बढ़ाने से कोई मदद नहीं मिलती: अधिक उदाहरण एकत्र करके सीमा को वापस पार नहीं किया जा सकता।
शोधकर्ताओं ने इसे विभिन्न परिस्थितियों में जाँचा: बिना संदर्भ के रिपोर्ट निर्माण वातावरण में (कोड निर्माण पर क्रॉस-चेक के साथ) और अन्य डोमेन में, विभिन्न विफलता दरों के साथ। तंत्र की विफलता हर जगह दोहराई जाती है। एकमात्र अपवाद — लगभग आदर्श सत्यापनकर्ता न्यायाधीश, जहाँ त्रुटि दर शून्य के करीब है, लेकिन यह वास्तविक LLM-न्यायाधीशों के लिए दुर्लभ मामला है।
एक महत्वपूर्ण विवरण: वे वास्तविक retirement (वास्तव में बेकार कौशल को हटाना) और «कैप-एविक्शन» (औपचारिक कारणों से पुराने कौशल को नए से बाहर निकालना) के बीच अंतर करते हैं। पहला ही बंद होता है, और यह एक सार्वभौमिक प्रभाव है, न कि किसी विशेष वातावरण की कलाकृति।
«मौन» गिरावट: समस्या दिखती क्यों नहीं
यदि तंत्र टूटा हुआ है, तो उम्मीद की जा सकती है कि मेट्रिक्स तुरंत गिरावट दिखाएँगी। लेकिन ऐसा नहीं है। लेखकों ने पाया कि कुछ मोड में मूल्यांकन की गुणवत्ता स्थिर रहती है, बावजूद इसके कि retirement बंद है। गिरावट केवल वहाँ दिखाई देती है जहाँ न्यायाधीश का वही भ्रष्टाचार अतिरिक्त रूप से नए कौशल के संश्लेषण को कमजोर करता है। यदि संश्लेषण काम करता है, तो समग्र तस्वीर सामान्य दिखती है।
बंद क्यूरेटर — «मौन» है: कोई भी समग्र संकेतक उसकी अनुपस्थिति को प्रकट नहीं करता। बाह्य रूप से एजेंट काम करता रहता है, अभी भी रिपोर्ट उत्पन्न करता है, लेकिन उसका पुस्तकालय धीरे-धीरे भरता जाता है, और विकास की क्षमता घटती जाती है। यह समस्या को विशेष रूप से खतरनाक बनाता है: इसे सामान्य परीक्षण में नोटिस करना असंभव है।
तैनाती से पहले न्यायाधीश की जाँच कैसे करें
लेखक एक सस्ता और व्यावहारिक ऑडिट तरीका प्रस्तावित करते हैं — दोष इंजेक्शन। विचार सरल है: तैनाती से पहले, ऑपरेटर जानबूझकर पुस्तकालय में एक जानबूझकर बेकार कौशल डालता है (या न्यायाधीश को जानबूझकर खराब परिणाम देता है) और देखता है कि न्यायाधीश उस पर कैसे प्रतिक्रिया करता है। यदि न्यायाधीश उसे अस्वीकार करता है — सब ठीक है। यदि वह उसे पास कर देता है — तो सिस्टम सीमा के दूसरी ओर है, और retirement सबसे अधिक संभावना पहले से ही काम नहीं कर रहा है।
ऐसा परीक्षण जटिल बुनियादी ढांचे की आवश्यकता नहीं रखता और अधिक समय नहीं लेता। यह केवल एक बिंदुवार त्रुटि नहीं दिखाता, बल्कि यह दिखाता है कि न्यायाधीश सीमा के किस ओर है — और इसलिए एजेंट युद्ध मोड में बेकार कौशल जमा करना शुरू करने से पहले निर्णय लिया जा सकता है।
निष्कर्ष के बजाय
यह शोध — व्यवहार की सुरक्षा के बारे में है, प्रदर्शन के बारे में नहीं। यह वादा नहीं करता कि एजेंट तेज़ या अधिक सटीक होंगे। यह कुछ और कहता है: यहाँ तक कि एक रूढ़िवादी सुरक्षा तंत्र, जैसे skill retirement, को पक्षपाती न्यायाधीश द्वारा चुपचाप बंद किया जा सकता है, और सिस्टम स्वस्थ दिखता रहेगा। अच्छी खबर यह है कि इस प्रक्रिया का निदान एक सरल परीक्षण से किया जा सकता है, इससे पहले कि यह वास्तविक नुकसान पहुँचाए। उन सभी के लिए जो स्व-सीखने वाले एजेंट डिज़ाइन करते हैं, यह सोचने का कारण है: आपका न्यायाधीश कितना ईमानदार है — और क्या होगा यदि वह अचानक बहुत उदार हो जाए।
