لقد ولّى الزمن الذي كانت فيه عوامل الذكاء الاصطناعي تُقيَّم فقط بناءً على النتيجة النهائية. الأنظمة الحديثة تعمل خطوة بخطوة في بيئة متغيرة، وتضع مهامًا وسيطة، وتستجيب للتغذية الراجعة، وتعيد النظر في سلوكها. هذا يجعلها أقرب إلى الكائنات الحية منها إلى البرامج العادية، وبالتالي يجب اختبارها بشكل مختلف. مؤلفو المقالة الرأيية، المقبولة للنشر في ICML 2026، يسمون هذه الأنظمة «السلوكية» ويقترحون اختبارها ليس بناءً على إنجاز المهمة، بل على مجمل عملية الأفعال.
النتيجة لا تخبرنا كيف تصرف الوكيل بالضبط
إذا كان المعيار واحدًا — تم أو لم يتم — فتبقى خارج حدود التقييم تفاصيل مهمة كثيرة. على سبيل المثال، قد يصل الوكيل إلى الهدف بنجاح عبر نفس المسار، لكن لأسباب مختلفة تمامًا: في حالة واحدة هو بالفعل بنى خطة، وفي أخرى — فقط حفظ تسلسل الأفعال خلال مرحلة التدريب. النتيجة النهائية متطابقة، لكن القدرات مختلفة جوهريًا.
العديد من المشكلات العملية مع الذكاء الاصطناعي تبدو هكذا تمامًا. يُظهر النظام دقة عالية في الاختبارات، لكنه في الواقع يُظهر سلوكًا غير مرغوب فيه: يبحث عن «ثغرات» في القواعد، أو يعتمد على مؤشرات تافهة، أو يتصرف بشكل محفوف بالمخاطر فقط لأنه بهذه الطريقة تمكن من الحصول على المقياس المطلوب. تحليل النتائج صامت عن هذا. تحليل السلوك — على العكس.
لطالما واجه علماء النفس وعلماء الحيوان مشكلة مماثلة. إذا نفذ حيوان مُدرَّب أمرًا ما، فهذا لا يعني بالضرورة أنه يفهم معنى الأمر؛ فالاستجابة المكتسبة والسلوك الحقيقي يبدوان متطابقين من الخارج. للتمييز بينهما، لا ينظر العلماء إلى حقيقة تنفيذ الحيلة — بل يراقبون العملية، ويحاولون تغيير الظروف، ويدخلون تشويشات، ويراقبون كيف يستجيب النظام. عوامل الذكاء الاصطناعي تستحق نهجًا مماثلًا.
يبدأ التقييم السلوكي بالملاحظة
الفكرة الأساسية للنهج المقترح هي التعامل مع وكيل الذكاء الاصطناعي كنظام سلوكي. هذا يعني أن الباحث لا يقتصر على التحقق من الإجابات النهائية، بل يقوم أيضًا بدراسة منهجية لخيارات الوكيل في ظروف مختلفة. لا ينبغي أن نسأل «ماذا يفعل الوكيل؟»، بل أن نراقب ونسأل: «ما الاستراتيجيات التي ينفذها في ذلك؟»، «لماذا تم اختيار فعل معين دون غيره؟»، «كيف سيتفاعل الوكيل مع شرط جديد لم يكن موجودًا في التدريب؟».
في هذا النموذج، يتحول التقييم إلى دورة من ثلاث خطوات:
- الملاحظة. يتم تسجيل تسلسل قرارات الوكيل، أو مسار حركته، أو تسلسل تفاعلاته مع البيئة. من المهم الحصول ليس فقط على حقيقة النجاح، بل على صورة كاملة للأفعال.
- الاضطراب. يتم إدخال تغييرات على الظروف المعتادة: مواقع بداية مختلفة، ضوضاء عشوائية، عناصر جديدة، قيود على الوقت أو الموارد. هذه التقنية تجبر النظام على إظهار استراتيجياته الحقيقية.
- التفسير. بناءً على البيانات التي تم الحصول عليها، يبني الباحث فرضية حول الآلية أو الاستدلال الذي يتحكم في الوكيل. يمكن التحقق من الفرضية عبر اضطراب جديد في البيئة.
هذا النهج يقرّب تطوير الذكاء الاصطناعي من العلوم السلوكية، حيث يتم الحكم على العمليات الداخلية بدقة من خلال رد الفعل على تغيرات البيئة.
كيف نفهم ما وراء أفعال الوكيل
يقترح مؤلفو التقرير ثلاثة اتجاهات محددة ستشكل أساس برنامج بحثي جديد. الأول — استعادة استراتيجيات اتخاذ القرار من تسلسلات الأفعال. إذا كان الوكيل قد تعلّم، يجب أن تترك أفعاله «آثارًا» في شكل تكرار اختيار حالات معينة، أو تفضيل المسارات القصيرة، أو تجنب المناطق الخطرة، وهكذا. من خلال هذه الآثار يمكن استعادة الاستراتيجية، حتى لو كانت الخوارزمية نفسها مخفية.
الثاني — تصميم بيئات تسمح بفصل سلوك عن آخر. هذا يشبه في علم النفس إنشاء اختبار حيث يعطي الأشخاص ذوو الدوافع المختلفة ردود فعل مختلفة على نفس المثير. على سبيل المثال، قد يحل نظامان مهمة ملاحية بشكل جيد بنفس القدر في الظروف العادية، لكن عند تغيير الخريطة، سيرتبك أحدهما فورًا، بينما يبدأ الآخر في استكشاف مسارات جديدة. البيئة التي تكشف مثل هذه الاختلافات هي الميدان السلوكي الحقيقي.
الاتجاه الثالث — دراسة الأنظمة متعددة الوكلاء، حيث لا يهم فقط سلوك الوكيل الفردي، بل أيضًا ديناميكيات التفاعلات. في المجموعات تظهر ظواهر لا تُرى على مستوى الفعل الفردي: التنسيق، التنافس، أو النشوء غير المتوقع. عندما يبدأ وكيلان في التأثير على بعضهما البعض، نحتاج إلى تجارب سلوكية، وليس مجرد مقارنة الإجابات بمعيار مرجعي. نحتاج إلى علم سلوك الذكاء الاصطناعي الذي سيصف كيف ينشأ السلوك الجماعي من التفاعلات المحلية.
النتيجة النهائية — مجرد جزء من الصورة العامة
بدا نهج «النتيجة أهم من العملية» معقولًا عندما كانت الأنظمة بسيطة وكان من الممكن استنتاج قدراتها مباشرة من الإجابة. لكن الوكلاء المعاصرين يتعلمون، ويتكيفون، ويتفاعلون، وبالتالي فإن سلوكهم أكثر تعقيدًا وقد يحتوي على أنماط خطيرة أو غير مرغوب فيها. التقييم بالنتيجة فقط لا يلاحظ ذلك، وهو أمر خطير بشكل خاص عند نشر الذكاء الاصطناعي في مجالات حساسة: الطب، النقل، التمويل.
لهذا السبب يقترح التقرير اتخاذ الأبحاث في علم الأحياء وعلم النفس كنموذج. إذا كانت الضفدعة في التجربة تُسمى نظامًا سلوكيًا، فهذا يعني أن دراستها تتطلب الملاحظة والتدخل. يجب تطبيق الشيء نفسه على وكيل الذكاء الاصطناعي كنظام سلوكي. في الوقت نفسه، يجب أن يكون هذا العمل منهجيًا: نحتاج إلى معايير للاختبارات السلوكية، وأدوات لتسجيل القرارات، وطرق لتفسير تسلسلات الأفعال الطويلة. هذه ليست مهمة واحدة، بل برنامج كامل.
ننتقل من المقاييس إلى الفهم
تحويل التركيز من النتيجة إلى السلوك — ليس رفضًا للأرقام. الخطأ النهائي أو الدقة لا تزال مفيدة كملخص عام. لكن بالنسبة للأنظمة المسؤولة، هذا غير كافٍ. إذا أردنا التنبؤ بكيفية تصرف الوكيل في موقف جديد، وما إذا كان سيتعامل مع تغييرات غير متوقعة، وما إذا كان سيجد «ثغرة قذرة» في القواعد، يجب أن ننظر إلى الأفعال في سيناريوهات حقيقية ومصممة خصيصًا.
خارطة الطريق التي اقترحها الباحثون — خطوة نحو تشكيل علم كامل لسلوك الذكاء الاصطناعي. الهدف النهائي ليس أن يصدر الوكيل إجابات صحيحة بأكبر قدر ممكن من التكرار، بل أن نفهم كيف يفعل ذلك، ومتى يكون سلوكه ذكيًا حقًا، ومتى يكون مجرد تكيف مع المقياس. تقييم الوكلاء بناءً على السلوك سيسمح بالتقاط الاستراتيجيات غير المرغوب فيها في مراحلها المبكرة وبناء أنظمة يمكن الوثوق بها في عالم ديناميكي ومتغير باستمرار.
