वह समय बीत गया जब AI-एजेंटों का मूल्यांकन केवल अंतिम परिणाम के आधार पर किया जाता था। आधुनिक सिस्टम बदलते परिवेश में कदम-दर-कदम कार्य करते हैं, मध्यवर्ती लक्ष्य निर्धारित करते हैं, फीडबैक पर प्रतिक्रिया देते हैं और अपने व्यवहार पर पुनर्विचार करते हैं। यह उन्हें सामान्य प्रोग्रामों की तुलना में जीवित प्राणियों के अधिक करीब बनाता है, और इसका मतलब है कि उनका परीक्षण भी अलग तरीके से किया जाना चाहिए। ICML 2026 में प्रकाशन हेतु स्वीकृत एक पोजीशन पेपर के लेखक ऐसी प्रणालियों को 'व्यवहारिक' कहते हैं और सुझाव देते हैं कि उनका परीक्षण कार्य पूर्ण होने के तथ्य के आधार पर नहीं, बल्कि क्रियाओं की पूरी प्रक्रिया के आधार पर किया जाना चाहिए।
परिणाम यह नहीं बताता कि एजेंट ने वास्तव में कैसे कार्य किया
यदि मानदंड केवल एक है — किया या नहीं किया — तो मूल्यांकन की सीमा के बाहर बहुत सारे महत्वपूर्ण विवरण रह जाते हैं। उदाहरण के लिए, एक एजेंट एक ही प्रक्षेपवक्र के माध्यम से सफलतापूर्वक लक्ष्य तक पहुँच सकता है, लेकिन पूरी तरह से अलग-अलग कारणों से: एक मामले में उसने वास्तव में योजना बनाई थी, और दूसरे में — उसने केवल प्रशिक्षण चरण के दौरान क्रियाओं का क्रम याद कर लिया था। अंतिम परिणाम समान होता है, लेकिन क्षमताएँ मौलिक रूप से भिन्न होती हैं।
AI के साथ कई व्यावहारिक समस्याएँ ठीक इसी तरह दिखती हैं। सिस्टम परीक्षणों पर उच्च सटीकता दिखाता है, लेकिन वास्तविकता में अवांछनीय व्यवहार प्रदर्शित करता है: नियमों में 'खामियाँ' खोजता है, तुच्छ संकेतों पर निर्भर करता है, या केवल इसलिए जोखिम भरा कार्य करता है क्योंकि उससे आवश्यक मीट्रिक प्राप्त करना संभव हुआ। परिणामों का विश्लेषण इस बारे में चुप रहता है। व्यवहार का विश्लेषण — इसके विपरीत।
मनोवैज्ञानिकों और प्राणीशास्त्रियों को लंबे समय से इसी तरह की समस्या का सामना करना पड़ा है। यदि एक प्रशिक्षित जानवर एक आदेश का पालन करता है, तो इसका मतलब यह नहीं है कि वह आदेश का अर्थ समझता है; सीखी हुई प्रतिक्रिया और वास्तविक व्यवहार बाहर से समान दिखते हैं। उन्हें अलग करने के लिए, वैज्ञानिक करतब के पूरा होने के तथ्य को नहीं देखते — वे प्रक्रिया का अवलोकन करते हैं, स्थितियों को बदलने की कोशिश करते हैं, बाधाएँ डालते हैं और देखते हैं कि सिस्टम कैसे प्रतिक्रिया करता है। AI-एजेंट भी इसी तरह के दृष्टिकोण के हकदार हैं।
व्यवहारिक मूल्यांकन अवलोकन से शुरू होता है
प्रस्तावित दृष्टिकोण का मुख्य विचार — AI-एजेंट को एक व्यवहारिक प्रणाली के रूप में मानना है। इसका मतलब है कि शोधकर्ता केवल अंतिम उत्तरों की जाँच नहीं करता, बल्कि विभिन्न परिस्थितियों में एजेंट की पसंद का व्यवस्थित अध्ययन भी करता है। यह पूछने की आवश्यकता नहीं है कि 'एजेंट क्या कर रहा है?', बल्कि निरीक्षण करना और प्रश्न पूछना आवश्यक है: 'वह इस दौरान कौन सी रणनीतियाँ लागू कर रहा है?', 'एक क्रिया के बजाय दूसरी क्रिया क्यों चुनी गई?', 'एजेंट एक नई स्थिति पर कैसे प्रतिक्रिया करेगा जो प्रशिक्षण में नहीं थी?'।
इस मॉडल में, मूल्यांकन तीन चरणों के चक्र में बदल जाता है:
- अवलोकन। एजेंट के निर्णयों का क्रम, उसकी गति का प्रक्षेपवक्र या पर्यावरण के साथ अंतःक्रियाओं का क्रम दर्ज किया जाता है। केवल सफलता का तथ्य नहीं, बल्कि क्रियाओं की पूरी तस्वीर प्राप्त करना महत्वपूर्ण है।
- विक्षोभ। सामान्य परिस्थितियों में परिवर्तन किए जाते हैं: अलग प्रारंभिक स्थितियाँ, यादृच्छिक शोर, नई वस्तुएँ, समय या संसाधनों की सीमा। ऐसी तकनीक सिस्टम को अपनी वास्तविक रणनीतियाँ प्रकट करने के लिए मजबूर करती है।
- व्याख्या। प्राप्त आंकड़ों के आधार पर, शोधकर्ता एक परिकल्पना बनाता है कि एजेंट को कौन सा तंत्र या अनुमानी नियंत्रित करता है। परिकल्पना को पर्यावरण में नए विक्षोभ द्वारा सत्यापित किया जा सकता है।
यह दृष्टिकोण AI विकास को व्यवहार विज्ञान के करीब लाता है, जहाँ आंतरिक प्रक्रियाओं के बारे में निर्णय पर्यावरण में परिवर्तनों की प्रतिक्रिया के आधार पर किया जाता है।
कैसे समझें कि एजेंट के कार्यों के पीछे क्या है
रिपोर्ट के लेखक तीन विशिष्ट दिशाओं का प्रस्ताव करते हैं जो एक नए शोध कार्यक्रम का आधार बनेंगी। पहला — क्रियाओं के अनुक्रमों से निर्णय लेने की रणनीतियों का पुनर्निर्माण। यदि एजेंट ने सीखा है, तो उसके कार्यों को कुछ अवस्थाओं के चयन की आवृत्ति, छोटे रास्तों की प्राथमिकता, खतरनाक क्षेत्रों से बचाव आदि के रूप में 'निशान' छोड़ने चाहिए। इन निशानों से रणनीति का पुनर्निर्माण किया जा सकता है, भले ही एल्गोरिदम स्वयं छिपा हो।
दूसरा — ऐसे वातावरणों का डिज़ाइन जो एक व्यवहार को दूसरे से अलग करने की अनुमति देते हैं। यह मनोविज्ञान में एक परीक्षण बनाने जैसा है जहाँ विभिन्न प्रेरणाओं वाले विषय समान उत्तेजना पर अलग-अलग प्रतिक्रियाएँ देंगे। उदाहरण के लिए, दो सिस्टम सामान्य परिस्थितियों में नेविगेशन कार्य को समान रूप से अच्छी तरह से हल कर सकते हैं, लेकिन मानचित्र बदलने पर एक तुरंत भ्रमित हो जाएगा, जबकि दूसरा नए मार्गों की खोज शुरू कर देगा। ऐसा वातावरण जो ऐसे अंतरों को उजागर करता है, वास्तविक व्यवहारिक परीक्षण क्षेत्र है।
तीसरी दिशा — मल्टी-एजेंट सिस्टम का अध्ययन, जहाँ न केवल व्यक्तिगत एजेंट का व्यवहार महत्वपूर्ण है, बल्कि अंतःक्रियाओं की गतिशीलता भी महत्वपूर्ण है। समूहों में ऐसी घटनाएँ उत्पन्न होती हैं जो एकल क्रिया के स्तर पर दिखाई नहीं देतीं: समन्वय, प्रतिद्वंद्विता या अप्रत्याशित आकस्मिकता। जब दो एजेंट एक-दूसरे को प्रभावित करने लगते हैं, तो व्यवहारिक प्रयोगों की आवश्यकता होती है, न कि केवल उत्तरों की तुलना एक संदर्भ से करने की। AI के व्यवहार के विज्ञान की आवश्यकता है जो वर्णन करे कि स्थानीय अंतःक्रियाओं से सामूहिक व्यवहार कैसे उत्पन्न होता है।
अंतिम परिणाम — समग्र तस्वीर का केवल एक हिस्सा
'परिणाम प्रक्रिया से अधिक महत्वपूर्ण है' दृष्टिकोण तब उचित लगता था जब सिस्टम सरल थे और उनकी क्षमताओं को सीधे उत्तर से निकाला जा सकता था। लेकिन आधुनिक एजेंट सीखते हैं, अनुकूलन करते हैं और अंतःक्रिया करते हैं, जिसका अर्थ है कि उनका व्यवहार अधिक जटिल है और इसमें खतरनाक या अवांछनीय पैटर्न हो सकते हैं। केवल परिणाम के आधार पर मूल्यांकन इसे नोटिस नहीं करता, जो संवेदनशील क्षेत्रों: चिकित्सा, परिवहन, वित्त में AI की तैनाती के दौरान विशेष रूप से खतरनाक है।
यही कारण है कि रिपोर्ट जीव विज्ञान और मनोविज्ञान में अनुसंधान को एक मॉडल के रूप में लेने का प्रस्ताव करती है। यदि एक प्रयोग में मेंढक को व्यवहारिक प्रणाली कहा जाता है, तो इसका अध्ययन करने के लिए अवलोकन और हस्तक्षेप आवश्यक है। वही चीज़ AI-एजेंट पर एक व्यवहारिक प्रणाली के रूप में लागू की जानी चाहिए। साथ ही, ऐसा कार्य व्यवस्थित होना चाहिए: व्यवहारिक परीक्षणों के मानकों, निर्णयों को दर्ज करने के उपकरणों और क्रियाओं के बड़े अनुक्रमों की व्याख्या के तरीकों की आवश्यकता है। यह एक कार्य नहीं, बल्कि एक संपूर्ण कार्यक्रम है।
मेट्रिक्स से समझ की ओर बढ़ना
परिणाम से व्यवहार पर ध्यान केंद्रित करना — संख्याओं का त्याग नहीं है। अंतिम त्रुटि या सटीकता अभी भी एक सामान्य सारांश के रूप में उपयोगी है। लेकिन जिम्मेदार प्रणालियों के लिए यह पर्याप्त नहीं है। यदि हम भविष्यवाणी करना चाहते हैं कि एजेंट एक नई स्थिति में कैसे व्यवहार करेगा, क्या वह अप्रत्याशित परिवर्तनों का सामना करेगा, और क्या वह नियमों में कोई 'गंदी' खामी खोजेगा, तो हमें वास्तविक और विशेष रूप से निर्मित परिदृश्यों में क्रियाओं को देखने की आवश्यकता है।
शोधकर्ताओं द्वारा प्रस्तावित रोडमैप — AI के व्यवहार के एक पूर्ण विज्ञान के निर्माण की दिशा में एक कदम है। अंतिम लक्ष्य यह नहीं है कि एजेंट जितनी बार संभव हो सही उत्तर दे, बल्कि यह है कि हम समझें कि वह यह कैसे करता है, उसका व्यवहार वास्तव में कब बुद्धिमान होता है, और कब — केवल मीट्रिक के अनुसार समायोजन। व्यवहार के आधार पर एजेंटों का मूल्यांकन करने से प्रारंभिक चरणों में अवांछनीय रणनीतियों को पकड़ने और ऐसी प्रणालियाँ बनाने में मदद मिलेगी जिन पर एक गतिशील, लगातार बदलती दुनिया में भरोसा किया जा सके।
