النماذج التي تعمل في الوقت نفسه مع الصور والنصوص تعلّمت أداءً مذهلاً: فهي تميّز الأشياء، وتجيب عن أسئلة حول الصور، وتنقل المعرفة إلى مهام جديدة. غير أن خلف هذا النجاح غالباً ما تكمن نقطة ضعف غير واضحة: النموذج لا يحفظ الخصائص الحقيقية للكائن، بل التفاصيل المصاحبة التي تعمل بمثابة «تسميات مختصرة». الضبط الاستدلالي للطلبات (prompts) هو أحد السبل لجعل النماذج أكثر متانة، لكن له أيضاً فخّه. لنستعرض لماذا يتعلم النموذج ما لا ينبغي، وكيف يقترح النهج الجديد فصل السمات المفيدة عن السمات الخادعة.
لماذا يتعلم النموذج ما لا ينبغي
عند ضبط نموذج لغوي-بصري على بيانات تحتوي ضجيجاً أو أمثلة استدلالية، يبدو من المنطقي توقع أن تنمو المتانة بشكل متوازن. لكن في الممارسة يحدث العكس: على الفئات التي شاهدها النموذج مسبقاً، تظهر نتائج ممتازة، بينما على الفئات الجديدة غير المرئية، وعند ظهور هجمات استدلالية، تنهار الجودة بسرعة. تُعرف هذه الظاهرة باسم الإفراط في التكيف مع التعميم المتين.
السبب هو أن النموذج يبدأ بالاعتماد على سمات شبه متينة — مجموعات من الأنماط العشوائية التي تنجو من الهجوم لكنها لا تعكس جوهر الكائن. على سبيل المثال، قد يحفظ النموذج نسيج الخلفية، أو الظلال المميزة، أو الضجيج الخاص الذي كان موجوداً في أمثلة التدريب. هذه السمات تجتاز اختبار الاضطرابات الاستدلالية، لكنها لا تعمل على بيانات جديدة. النموذج يُفرط في التكيف ليس مع المحتوى، بل مع تلميحات الاختصار (shortcuts) — وكلما طال التدريب، زاد التدهور على الفئات غير المرئية.
كيف نفصل السمات: فكرة ADAPT
ينطلق مؤلفو الاقتراح من فلسفة غير معتادة: بدلاً من تعليم النموذج السمات المطلوبة فقط، يجب أيضاً تعليمه صراحةً ما لا ينبغي تعلّمه. هكذا وُلدت طريقة ADAPT (Adversarial Disentangled Prompt Tuning).
الفكرة الأساسية هي استخدام نوعين من الطلبات في الوقت نفسه:
- الطلب المستهدف — مسؤول عن جعل النموذج يستخرج سمات متينة وقابلة للتعميم.
- طلبات الطُعم — مجموعة خاصة من الطلبات الإضافية التي «تستحوذ» عمداً على الأنماط شبه المتينة.
أثناء التدريب، تتنافس طلبات الطُعم فيما بينها: يحاول كلٌّ منها التقاط نوع معين من التسميات العشوائية. أما الطلب المستهدف فيُجبر على أن يكون متعامداً مع الطُعم في فضاء التضمينات. هكذا تُفصل السمات المتينة عن السمات الخادعة: ما «تعلّمته» الطُعم بالفعل لا يمكن للطلب المستهدف استخدامه.
آلية الطلبات المزدوجة
عملياً، يبدو هذا وكأنه تقسيم عمل. طلبات الطُعم ليست ضرورية للتنبؤ النهائي — مهمتها أن تكون «سلة مهملات» للتشوهات الموروثة. أما الطلب المستهدف فيُدرَّب في ظل قيد: يجب ألا يتطابق متجهه مع اتجاه الطُعم. التعامد في فضاء التضمينات يعني أن السمات التي استخدمتها الطُعم لا تؤثر على قرار الطلب المستهدف. ونتيجة لذلك، يُجبر النموذج على البحث عن أنماط سببية أعمق.
لماذا يعمل الفصل
التعامد ليس مجرد تقنية، بل وسيلة لتقديم ضمان نظري. يُظهر تحليل الطريقة أن دالة الخسارة الخاصة تحدّ من تأثير انزياحات السمات شبه المتينة على التنبؤات للفئات غير المرئية.
باختصار: حتى لو جمعت الطُعم الكثير من المعلومات الزائدة، لا يمكن لهذه المعلومات أن «تتسرب» إلى الطلب المستهدف. وبالتالي، فإن انزياحات توزيع البيانات التي تحدث عند الانتقال من الفئات المرئية إلى غير المرئية تؤثر بشكل أقل على خطأ النموذج. هذا النهج يمنح سلوكاً أكثر قابلية للتنبؤ على الأمثلة الاستدلالية ولا يضحي بمتانة فئات على حساب أخرى.
ماذا أظهرت التجارب
تؤكد الاختبارات العملية أن ADAPT يحسّن بشكل ملحوظ متانة الطلب المستهدف على الفئات غير المرئية مقارنة بالطرق الحالية للضبط الاستدلالي. النموذج لا يحفظ ببساطة حماية ضد هجمات محددة، بل يشكّل سمات أنقى تعمل على مادة جديدة.
بطبيعة الحال، لا يمكن التخلص تماماً من الأنماط الزائفة بعد — فمهمة فصل السببية عن الارتباط تظل من أصعب المهام في التعلم الآلي. لكن نهج «تعلّم ما لا ينبغي تعلّمه» يقدّم بوصلة عملية: أحياناً تكون أفضل طريقة لتعليم النموذج هي أن تُريه ما يجب تجاهله.
الخلاصة الرئيسية للممارسين: عند ضبط النماذج اللغوية-البصرية، ينبغي مراقبة ليس فقط نمو الدقة على بيانات التدريب، بل أيضاً السمات التي يعتمد عليها النموذج. إذا أُضيفت إلى عملية التدريب «مصائد» للأنماط العشوائية — مثلاً عبر طلبات مزدوجة مع تعامد — يمكن الحصول على نموذج ليس أكثر موثوقية فحسب، بل أكثر صدقاً أيضاً.
