एआई की संज्ञानात्मक सीमाएं: वास्तव में सोचने से मॉडल को क्या रोकता है
सामान्य और एजेंटिक सिस्टम पहले से ही कोड लिख सकते हैं, संवाद कर सकते हैं और संकीर्ण कार्यों को हल कर सकते हैं। लेकिन जब आप उन्हें दीर्घकालिक परियोजनाओं या असामान्य स्थितियों में उपयोग करने की कोशिश करते हैं, तो यह जल्दी से स्पष्ट हो जाता है: सतह के उतार-चढ़ाव के पीछे अक्सर निरंतर तर्क, स्मृति और आत्म नियंत्रण की कमी होती है। हाल के सर्वेक्षण में आर्Xiv (2608.02553) ने इन समस्याओं को व्यवस्थित करने और वास्तविक संज्ञानात्मक क्षमताओं के साथ प्रणालियों के लिए "स्मार्ट निष्पादक" से एक पथ को रेखांकित करने का प्रयास किया।
काम के लेखक - ताये अकिनेरेले, सिंधुजा पेचेला, नोरबाखश अमिरी गोलिलार्ज, सुडिप मित्तल और शाहराम राहीमी - वर्तमान एआई क्षमताओं के बीच अंतराल पर एकत्र और वर्गीकृत अनुसंधान और संज्ञानात्मक व्यवहार के लिए क्या आवश्यक है। बस लिस्टिंग कमियों के बजाय, उन्होंने पांच प्रमुख आयामों को कवर करने वाली एक वर्गीकरण का प्रस्ताव रखा। यह सिर्फ एक सैद्धांतिक ढांचा नहीं है: यह डेवलपर्स को यह देखने देता है कि कौन सी क्षमताओं में विखंडित रहते हैं और जहां प्रयासों को ध्यान में रखा जाना चाहिए।
संज्ञानात्मक अंतराल के पांच आयाम
पहला आयाम है लगातार राज्य मॉडलिंगयह विस्तारित अवधि में दुनिया के आंतरिक मॉडल को बनाए रखने और अद्यतन करने की एक प्रणाली की क्षमता से संबंधित है। अधिकांश मौजूदा मॉडलों के लिए, संदर्भ एक ध्यान विंडो तक सीमित है, इसलिए वे "forget" पहले बातचीत करते हैं या पिछले लोगों के साथ वर्तमान घटनाओं को सही ढंग से जोड़ने में विफल रहते हैं। यह उन कार्यों के लिए महत्वपूर्ण है जिन्हें योजना और अनुक्रमिक निर्णय की आवश्यकता होती है।
दूसरा आयाम है लक्ष्य निर्देशित स्वायत्तताएक मॉडल एक लक्ष्य को बनाने में सक्षम हो सकता है, लेकिन एक जटिल परिदृश्य में इसे पकड़ना एक अलग मामला है। एक एजेंट अक्सर पहली अप्रत्याशित परिणाम पर इच्छित योजना से विचलित होता है क्योंकि यह बाहरी हस्तक्षेप के बिना अपनी रणनीति को समायोजित नहीं कर सकता है।
तीसरा आयाम है आत्मनिरीक्षण और नियंत्रणइसमें किसी के स्वयं के कार्यों का मूल्यांकन करने की क्षमता, गलतियां, संदेह उत्तर और कैलिब्रेट विश्वास शामिल है। आधुनिक जीनरेटिव मॉडल अक्सर misplaced overconfidence प्रदर्शित करते हैं, और आंतरिक सत्यापन तंत्र या तो अनुपस्थित हैं या केवल एक अतिरिक्त पोस्ट-प्रोसेसिंग चरण के रूप में काम करते हैं।
चौथा है पर्यावरण संपर्कवास्तविक दुनिया में काम करने के लिए, एक एजेंट को न केवल फीडबैक प्राप्त करना चाहिए बल्कि सक्रिय रूप से प्रयोग करना, राज्य की जगह का पता लगाना और विफलताओं से सीखना चाहिए। वर्तमान में, अधिकांश प्रणालियों को स्थिर डेटासेट पर प्रशिक्षित किया जाता है और वास्तविक समय में पर्यावरण को वास्तव में "प्रोब" नहीं किया जा सकता है।
पांचवां आयाम है शिक्षा और अनुकूलनयह नए अनुभव के आधार पर व्यवहार को बदलने की क्षमता है, न कि लेबल वाले उदाहरणों पर आगे की ट्रेन। जीवन भर की शिक्षा, कार्यों में कौशल का हस्तांतरण और बदलती स्थितियों के लिए मजबूती खुली समस्याएं बनी हुई हैं।
एसीआईए वास्तुकला और अनुभूति केंद्रित मूल्यांकन
सभी पांच दिशाओं को एक साथ लाने के लिए, लेखक एक वैचारिक वास्तुकला का प्रस्ताव करते हैं, अनुकूली संज्ञानात्मक खुफिया वास्तुकला (ACIA)यह एक तैयार उत्पाद नहीं है बल्कि एक रूपरेखा है: यह बताता है कि लगातार राज्य, गोल-सेटिंग, आत्म-निरीक्षण, पर्यावरण बातचीत और सीखने के मॉड्यूल को एक ही प्रणाली में जोड़ा जा सकता है। लेखक के दृष्टिकोण में, इस वास्तुकला को भविष्य के प्रयोगों और इंजीनियरिंग कार्यों के लिए नींव के रूप में काम करना चाहिए।
सर्वेक्षण में विशेष ध्यान दिया जाता है अनुभूति-केंद्रित मूल्यांकनपारंपरिक बेंचमार्क व्यक्तिगत कार्यों पर सटीकता का परीक्षण करते हैं लेकिन यह नहीं मापते कि क्या एक प्रणाली लंबी दूरी पर तर्क बनाए रख सकती है, नवीनता के अनुकूल है या अपने कार्यों को नियंत्रित कर सकती है। नए दृष्टिकोण का कहना है कि इन संज्ञानात्मक कार्यों के आसपास परीक्षण किया जाना चाहिए; अन्यथा, क्षेत्र में प्रगति का सही मूल्यांकन किया जाएगा।
अगला क्या है?
सर्वेक्षण में वर्गीकरण बिखरे अनुसंधान के लिए आदेश लाने का प्रयास है। बेहतर स्मृति या एक नया ध्यान तंत्र जैसे पृथक चालों को इकट्ठा करने के बजाय, डेवलपर्स को समस्याओं का एक सामान्य नक्शा मिलता है। यह मार्ग पर विशेष रूप से महत्वपूर्ण है संज्ञानात्मक एआई अंत में, आर्टिफिशियल इंटेलिजेंस (AGI)।
अब के लिए, जेनेरेटिव और एजेंट मॉडल शक्तिशाली लेकिन सीमित उपकरण रहते हैं। जब कोई लगातार राज्य, आंतरिक critique, या दीर्घकालिक लक्ष्य खोज की आवश्यकता होती है तो वे कार्यों को अच्छी तरह से संभालते हैं। लेकिन सच सोच - आत्म-विनियमन के लिए अपनी क्षमता के साथ, अनुभव से सीखने और अप्रत्याशित वातावरण में अनुकूलन - अभी भी उन परे है। इन सीमाओं को व्यवस्थित करना एक इंजीनियरिंग वास्तविकता में विपणन दावा से उस वादा को मोड़ने की दिशा में पहला कदम है।
