स्व-शिक्षण एजेंट अस्थिर क्यों होते हैं: परिणामों में भिन्नता और कार्य क्रम पर निर्भरता

स्व-सुधार करने वाले एजेंट अस्थिर क्यों हैं: परिणामों में भिन्नता और कार्यों के क्रम पर निर्भरता

स्व-सुधार करने वाले एजेंट आधुनिक AI में सबसे आशाजनक दिशाओं में से एक हैं। वे काम करते समय अनुभव संचित करने और हर नए कार्य के साथ बेहतर होते जाने में सक्षम हैं। लेकिन इस आकर्षक विचार के पीछे एक गंभीर समस्या छिपी है: ऐसी प्रणालियाँ अत्यंत अप्रत्याशित होती हैं। यहाँ तक कि एक ही एजेंट बार-बार चलाने पर पूरी तरह से अलग परिणाम दिखा सकता है, और उसके सीखने की प्रभावशीलता सीधे तौर पर इस बात पर निर्भर करती है कि उसे कार्य किस क्रम में मिलते हैं।

हाल ही में प्रस्तुत शोधपत्र «On the Fragility of Self-Improving Agents: Variance, Task Order, and Underspecification» (arXiv: 2608.18066) में इस मुद्दे पर गहराई से विचार किया गया है। लेखकों ने टेक्स्ट-आधारित मेमोरी बैंक पर आधारित दो लोकप्रिय विधियों का पुनर्मूल्यांकन किया। ऐसे एजेंट हल किए गए कार्यों की जानकारी संग्रहीत करते हैं और नए अनुरोधों को संसाधित करते समय इसे बाहरी मेमोरी के रूप में उपयोग करते हैं। तंत्र सरल और तार्किक लगता है, लेकिन व्यवहार में सब कुछ कहीं अधिक जटिल निकला।

स्व-सीखने की छिपी हुई शोरगुल

शोधकर्ताओं ने सबसे पहले जो पाया, वह ऐसे एजेंटों के मूल्यांकन में उच्च स्तर का शोर था। बहु-चरणीय कार्यों वाले जटिल वातावरणों में, एक ही एजेंट के परिणाम एक रन से दूसरे रन में काफी भिन्न हो सकते हैं। और स्व-सुधार लूप जोड़ने से यह शोर केवल बना नहीं रहता, बल्कि काफी बढ़ जाता है। यह एक विरोधाभास है: एजेंट जितना अधिक अपने अनुभव से सीखने की कोशिश करता है, उसका व्यवहार उतना ही कम स्थिर हो जाता है।

ऐसा क्यों होता है? आंशिक रूप से यह इस तथ्य के कारण है कि टेक्स्ट मेमोरी बैंक जानकारी को गैर-नियतात्मक (non-deterministic) तरीके से संचित करता है। हर चरण में एजेंट चुनता है कि क्या संग्रहीत करना है और क्या छोड़ना है, और ये निर्णय कई कारकों पर निर्भर करते हैं। परिणामस्वरूप, समान इनपुट डेटा होने पर भी एजेंट की आंतरिक स्थिति काफी भिन्न हो सकती है, जो भिन्नता को जन्म देती है।

कार्यों का क्रम एक छिपे पाठ्यक्रम के रूप में

दूसरा महत्वपूर्ण अवलोकन कार्यों के क्रम के प्रभाव से संबंधित है। यह पता चला कि एजेंट का सुधार काफी हद तक इस बात पर निर्भर करता है कि वह कार्यों से किस अनुक्रम में परिचित होता है। पिछले कार्यों में, जो स्व-सुधार करने वाले एजेंटों पर केंद्रित थे, अक्सर एक निश्चित «डिफ़ॉल्ट» क्रम का उपयोग किया जाता था। शोधकर्ताओं ने पाया कि यह क्रम वास्तव में एक अंतर्निहित पाठ्यक्रम बनाता है — कार्य सरल से जटिल की ओर व्यवस्थित होते हैं, जिससे एजेंट को धीरे-धीरे अपनी क्षमताओं को बढ़ाने का अवसर मिलता है।

हालाँकि, केवल कार्यों को यादृच्छिक रूप से फेरबदल करने मात्र से सीखने की प्रभावशीलता तेजी से गिर जाती है। इसका मतलब है कि कई प्रणालियों की दावा की गई सफलता काफी हद तक सामग्री के अनुकूल व्यवस्था से पूर्वनिर्धारित थी, न कि एजेंट की वास्तविक सीखने की क्षमता से। संक्षेप में, डिफ़ॉल्ट क्रम सफलता की एक छिपी हुई पूर्व-शर्त के रूप में कार्य करता था — एक ऐसा कारक जिसका उल्लेख आमतौर पर विधियों के विवरण में भी नहीं किया जाता था।

समस्या की जड़ के रूप में अपर्याप्त विनिर्देशन (Underspecification)

लेखकों ने परिकल्पना प्रस्तुत की कि नाजुकता का मुख्य कारण कार्यों और वातावरण की अपर्याप्त विनिर्देशन (underspecification) में निहित है। जब किसी कार्य की शर्तों का पर्याप्त विवरण नहीं दिया जाता, तो एजेंट को कई अस्पष्ट निर्णय लेने पड़ते हैं। यह ज्ञान संचय करने के तरीके और उसे बाद में लागू करने के तरीके में यादृच्छिकता पैदा करता है।

इस परिकल्पना का परीक्षण करने के लिए, शोधकर्ताओं ने मेमोरी निर्माण की प्रक्रिया को अधिक विनिर्दिष्ट बनाने का प्रयास किया। उन्होंने इसमें विस्तृत मूल्यांकन रूब्रिक और वातावरण से प्रतिक्रिया (feedback) जोड़ी — यानी वह जानकारी जो अस्पष्टता को कम करने वाली थी। परिणाम उल्लेखनीय था: अतिरिक्त विनिर्देशन ने प्रयोगों में देखी गई प्रदर्शन गिरावट को केवल आंशिक रूप से कम किया। महत्वपूर्ण अंतराल बने रहे, जो अन्य, अभी तक पहचाने न गए कारकों के अस्तित्व की ओर संकेत करते हैं जो अस्थिरता में योगदान करते हैं।

व्यवसायियों के लिए इसका क्या अर्थ है

प्राप्त निष्कर्षों का ऐसी प्रणालियों के विकास और परीक्षण से सीधा संबंध है। सबसे पहले, एक ही रन के परिणामों पर भरोसा नहीं किया जा सकता। एजेंट को कई बार चलाना आवश्यक है और केवल औसत आंकड़े ही नहीं, बल्कि भिन्नता (variance) भी रिपोर्ट करनी चाहिए। अन्यथा, एक भाग्यशाली संयोग के आधार पर विधि की प्रभावशीलता के बारे में आसानी से गलत निष्कर्ष निकाला जा सकता है।

दूसरे, विभिन्न दृष्टिकोणों की तुलना करते समय, उन्हें यादृच्छिक रूप से फेरबदल किए गए कार्य क्रमों पर परीक्षण करना अनिवार्य है। यदि कोई विधि केवल «ग्रीनहाउस» पाठ्यक्रम पर काम करती है, तो उसका व्यावहारिक मूल्य संदिग्ध है — वास्तविक जीवन में कार्य शायद ही कभी पूरी तरह से व्यवस्थित अनुक्रम में आते हैं।

अंत में, अपर्याप्त विनिर्देशन केवल विशिष्ट बेंचमार्क की एक विशेषता नहीं है, बल्कि कई वास्तविक परिदृश्यों का एक मौलिक गुण है। एजेंटों को ऐसी परिस्थितियों में काम करना पड़ता है जहाँ नियम पूरी तरह से स्पष्ट नहीं होते, और यह हमेशा अप्रत्याशित विफलताओं का जोखिम पैदा करेगा। इसलिए, एल्गोरिदम में सुधार के साथ-साथ, ऐसे इंटरफेस और प्रक्रियाओं को डिज़ाइन करना महत्वपूर्ण है जो मनुष्य को एजेंट के व्यवहार को प्रभावी ढंग से नियंत्रित करने और त्रुटि गंभीर होने से पहले हस्तक्षेप करने की अनुमति देते हैं।

निष्कर्ष के बजाय

स्व-सुधार करने वाले एजेंट अत्यंत आशाजनक, लेकिन अभी भी अपरिपक्व दिशा बने हुए हैं। शोध स्पष्ट रूप से दर्शाता है कि उनके वर्तमान कार्यान्वयन विश्वसनीयता से बहुत दूर हैं। परिणामों में भिन्नता और कार्यों के क्रम पर निर्भरता — ये मात्र कष्टप्रद बाधाएँ नहीं हैं, बल्कि मौलिक गुण हैं जिन्हें ध्यान में रखना होगा। कठोर मूल्यांकन प्रोटोकॉल के बिना, जिसमें कई रन और जटिल वातावरणों में तनाव-परीक्षण शामिल हों, हम यादृच्छिक सफलताओं को वास्तविक प्रगति मान लेने का जोखिम उठाते हैं। और यह पहले से ही समग्र रूप से AI प्रणालियों पर भरोसे का सवाल है।