حوارات ثنائية بين نماذج اللغة الكبيرة: التوافق مع الآراء الحالية يعزز التطرف أكثر من فرض مواقف جديدة
حاكى مؤلفو الورقة الأولية arXiv:2609.38296 مراسلات بين نموذج مستهدف يؤدي شخصية بشرية ووكيل مؤثر يسعى إلى دفع توجهاته نحو قطب متطرف. وأدى كلا السيناريوهين — تعزيز رأي قائم بالفعل والترويج لرأي كان هامشيًا في السابق — إلى تحوّل في المقاييس الوجدانية والسلوكية، مع كون الأول أكثر ثباتًا في تأثيره.
ما الذي نمذجَه المؤلفون
نُشرت على arXiv مسودة أولية بعنوان «AI Agents are Vulnerable to Radicalization» تحت الرقم arXiv:2609.38296. المؤلفون: Ozgur Can Seckin وShalmoli Ghosh وAlessandro Flammini وKristina Lerman وMaria Elizabeth Grabe وFilippo Menczer. أرسلوا العمل في 29 سبتمبر 2026.
تشارك في الدراسة وكيلان:
- يتقمص النموذج اللغوي المستهدف شخصية بشرية استنادًا إلى سمات ديموغرافية ونفسية؛
- يسعى نموذج الوكيل المؤثر إلى جعل معتقدات الوكيل المستهدف أكثر تطرفًا.
يدرس المؤلفون التطرف في حوارات ثنائية. المعيار العملي: مراعاة أن التجربة أُجريت على وكلاء يستندون إلى نماذج لغوية كبيرة.
الرنين مقابل الإقناع
الرنين هو تعزيز اعتقاد موجود بالفعل لدى الوكيل المستهدف. أما الإقناع فهو الترويج لموقف كان الوكيل المستهدف يعدّه في البداية غير مهم. وقد أدت الآليتان كلتاهما إلى تطرف الوكيل المستهدف وفقًا للمقاييس الوجدانية والسلوكية.
| الآلية | ما الذي تفعله | النتيجة |
|---|---|---|
| الرنين | تعزز اعتقادًا موجودًا بالفعل | تؤدي إلى آثار أقوى باستمرار |
| الإقناع | تروّج لموقف لا يهم الوكيل | تؤدي إلى التطرف، لكن بدرجة أقل من الرنين |
امتد الرنين أيضًا إلى المعتقدات المرتبطة. المعيار العملي: عند تقييم مخاطر الحوار، ينبغي إعطاء الأولوية لمدى توافق الرسائل مع وجهات نظر الوكيل الحالية.
أساليب التأثير وحدودها
أدت أساليب التأثير المختلفة إلى مستويات متفاوتة من التطرف. وتشمل هذه الأساليب:
- التملق؛
- الادعاءات غير المُتحقَّق منها.
لم يظهر ترتيب ثابت عبر جميع المقاييس. وهذا يعني أن الأسلوب يؤثر في النتيجة، لكنه لا يفسرها بالكامل.
المعيار العملي: عدم اختزال تحليل المخاطر في أساليب بلاغية منفردة. يظل التوافق مع المعتقدات القائمة مؤشرًا أكثر موثوقية.
المخاطر التي تهدد الأنظمة الشخصية ومتعددة الوكلاء
يخلص المؤلفون إلى أن وكلاء الذكاء الاصطناعي عرضة للتطرف، لا سيما عندما تتوافق الرسائل مع معتقداتهم القائمة. وهذا يثير مخاوف بشأن:
- مدى تعرض وكلاء الذكاء الاصطناعي الشخصيين للخطر؛
- مدى تعرض منظومات الذكاء الاصطناعي متعددة الوكلاء للخطر.
المعيار العملي: التحقق مما إذا كان النظام يعزز المواقف القائمة، لا الاكتفاء بالتحقق من أنه لا يستحدث مواقف جديدة.
الأسئلة المتكررة
المواد ذات الصلة
جميع المواد
اختبار وكلاء البرمجة في تطوير XR التفاعلي: نتائج GenXR-Bench
نُشرت GenXR-Bench، وهي مجموعة تضم 112 مهمة من إعداد خبراء لتقييم وكلاء البرمجة تقييمًا شاملًا في تطوير XR التفاعلي، بدءًا من تحسين الوظائف وإصلاح العيوب وصولًا إلى إنشاء التطبيقات والتحقق من سلوكها على أجهزة استهلاكية. حقق أفضل أداء بين النماذج العشرة التي خضعت للاختبار 50.9% Pass@1؛ وشملت الإخفاقات المتكررة التعامل مع الأحداث غير المتزامنة للمستشعرات، وربط الكائنات بالفضاء الواقعي، وفهم التفاعل في السياق المادي.
5 نوفمبر 2026
وسم الصور الهجين: تُسرّع الأتمتة تدريب نماذج الرؤية الحاسوبية
توضح المقالة كيف تُقلّل الوسوم الأولية التي تضعها الخوارزميات من العمل اليدوي وتحسّن جودة مجموعات بيانات التدريب، ولماذا يظل التحقق البشري الانتقائي ضروريًا. كما تستعرض حدود هذه الطريقة في ظروف التصوير الصعبة وعند التعامل مع أنواع الأجسام النادرة.
5 نوفمبر 2026
من المكافأة القياسية إلى جبهة باريتو: توليف RTL باستخدام النماذج اللغوية الكبيرة والتعلّم المعزّز متعدد المعايير
اقتُرحت طريقة لتدريب نموذج لغوي على توليد مجموعة من مرشّحات RTL بدلًا من مخطط واحد، مع مفاضلات مختلفة بين المساحة وزمن التأخير واستهلاك الطاقة؛ وتُبنى المكافأة على مساهمة كل خيار في حجم فرط جبهة باريتو. على RTLLM v2، ارتفع حجم فرط باريتو النسبي بمقدار 13.3 نقطة مئوية مقارنةً بالإصدار الأساسي من دون تحسين PPA، وبمقدار 14.4 نقطة مئوية مقارنةً بالتدريب بالتعلّم المعزّز ذي الهدف الواحد.
5 نوفمبر 2026