لماذا الوكلاء ذاتي التعلم غير مستقرين: تباين النتائج والاعتماد على ترتيب المهام
الوكلاء ذاتي التعلم هم أحد أكثر الاتجاهات الواعدة في الذكاء الاصطناعي الحديث. إنهم قادرون على تراكم الخبرة أثناء العمل والتحسن مع كل مهمة جديدة. لكن خلف هذه الفكرة الجذابة تكمن مشكلة خطيرة: مثل هذه الأنظمة غير متوقعة للغاية. حتى الوكيل نفسه قد يُظهر نتائج مختلفة تمامًا عند إعادة تشغيله، وكفاءة تعلمه تعتمد بشكل مباشر على الترتيب الذي تظهر له به المهام.
بحث حديث، مقدم في ورقة بعنوان «On the Fragility of Self-Improving Agents: Variance, Task Order, and Underspecification» (arXiv: 2608.18066)، تناول هذه المسألة عن كثب. أجرى المؤلفون تقييمًا متكررًا لطريقتين شائعتين تعتمدان على إدارة بنك ذاكرة نصي. يحتفظ هؤلاء الوكلاء بمعلومات حول المهام التي تم حلها ويستخدمونها كذاكرة خارجية عند معالجة الاستفسارات الجديدة. قد يبدو الأمر آلية بسيطة ومنطقية، لكن في الممارسة العملية، تبين أن الأمور أكثر تعقيدًا بكثير.
الضوضاء الخفية في التعلم الذاتي
أول ما اكتشفه الباحثون هو المستوى العالي من الضوضاء في تقييم هؤلاء الوكلاء. في البيئات المعقدة ذات المهام متعددة الخطوات، يمكن أن تتقلب نتائج الوكيل نفسه بشكل كبير من تشغيل إلى آخر. وإضافة حلقة التحسين الذاتي لا تحافظ على هذه الضوضاء فحسب، بل تزيدها بشكل ملحوظ. والنتيجة مفارقة: كلما حاول الوكيل التعلم من تجربته، أصبح سلوكه أقل استقرارًا.
لماذا يحدث هذا؟ يرجع ذلك جزئيًا إلى أن بنك الذاكرة النصي يتراكم المعلومات بطريقة غير حتمية. في كل خطوة، يختار الوكيل ما يحفظه وما يتجاهله، وهذه القرارات تعتمد على عوامل متعددة. ونتيجة لذلك، حتى مع بيانات الإدخال المتطابقة، يمكن أن تختلف الحالة الداخلية للوكيل اختلافًا كبيرًا، مما يؤدي إلى التباين.
ترتيب المهام كمنهج تعليمي خفي
الملاحظة الثانية المهمة تتعلق بتأثير ترتيب المهام. اتضح أن تحسن الوكيل يعتمد بشدة على التسلسل الذي يتعرف به على المهام. في الأعمال السابقة حول الوكلاء ذاتي التعلم، غالبًا ما كان يُستخدم ترتيب «افتراضي» ثابت. اكتشف الباحثون أن هذا الترتيب يخلق فعليًا منهجًا تعليميًا ضمنيًا — المهام مرتبة من البسيط إلى المعقد، مما يمنح الوكيل الفرصة لبناء الكفاءات تدريجيًا.
ومع ذلك، بمجرد خلط المهام عشوائيًا، تنخفض كفاءة التعلم بشكل حاد. هذا يعني أن النجاح المعلن للعديد من الأنظمة كان محددًا مسبقًا إلى حد كبير بترتيب مناسب للمواد، وليس بالقدرة الفعلية للوكيل على التعلم. في جوهره، كان الترتيب الافتراضي بمثابة شرط مسبق خفي للنجاح — عامل لم يُذكر عادةً حتى في أوصاف الأساليب.
نقص التحديد كجذر المشكلة
طرح المؤلفون فرضية أن السبب الرئيسي للهشاشة يكمن في نقص التحديد (underspecification) للمهام والبيئة. عندما تكون شروط المهمة موصوفة بتفاصيل غير كافية، يضطر الوكيل إلى اتخاذ العديد من القرارات الغامضة. هذا يولد عشوائية في كيفية تراكم المعرفة وكيفية تطبيقها لاحقًا.
لاختبار هذه الفرضية، حاول الباحثون جعل عملية بناء الذاكرة أكثر تحديدًا. أضافوا إليها معايير تقييم مفصلة وملاحظات من البيئة — أي المعلومات التي كان من المفترض أن تقلل الغموض. كانت النتيجة دالة: التحديد الإضافي أغلق جزئيًا فقط تدهور الأداء الملحوظ في التجارب. استمرت الفجوات الكبيرة، مما يشير إلى وجود عوامل أخرى غير موصوفة بعد تساهم في عدم الاستقرار.
ماذا يعني هذا للممارسين
الاستنتاجات المستخلصة لها صلة مباشرة بتطوير واختبار مثل هذه الأنظمة. أولاً، لا يمكن الوثوق بنتائج تشغيل واحد. من الضروري تشغيل الوكيل عدة مرات والإبلاغ ليس فقط عن متوسط المؤشرات، بل أيضًا عن التباين. وإلا، يمكن بسهولة استخلاص استنتاج خاطئ حول فعالية الطريقة بناءً على صدفة مواتية.
ثانيًا، عند مقارنة الأساليب المختلفة، من الضروري اختبارها على ترتيبات مهام مخلوطة عشوائيًا. إذا كانت الطريقة تعمل فقط على منهج تعليمي «محمي»، فإن قيمتها العملية موضع شك — في الواقع، نادرًا ما تصل المهام بتسلسل مثالي البناء.
أخيرًا، نقص التحديد ليس مجرد سمة من سمات معايير تقييم محددة، بل هو خاصية أساسية للعديد من السيناريوهات الواقعية. يضطر الوكلاء إلى العمل في ظروف لا تكون فيها القواعد واضحة تمامًا، وهذا سيخلق دائمًا خطر فشل غير متوقع. لذلك، إلى جانب تحسين الخوارزميات نفسها، من المهم تصميم واجهات وعمليات تسمح للإنسان بالتحكم الفعال في سلوك الوكيل والتدخل قبل أن يصبح الخطأ حرجًا.
بدلًا من الخاتمة
يبقى الوكلاء ذاتي التعلم مجالًا واعدًا للغاية، لكنه لا يزال غير ناضج. يوضح البحث بوضوح أن تطبيقاتهم الحالية بعيدة عن الموثوقية. تباين النتائج والاعتماد على ترتيب المهام ليسا عوائق مزعجة، بل خصائص أساسية يجب أخذها في الاعتبار. بدون بروتوكولات تقييم صارمة، تشمل تشغيلات متعددة واختبارات ضغط في بيئات معقدة، نخاطر باعتبار النجاحات العشوائية تقدمًا حقيقيًا. وهذه مسألة تتعلق بالثقة في أنظمة الذكاء الاصطناعي بشكل عام.
