النماذج اللغوية الحديثة تعمل بشكل متزايد ليس كتطبيقات منفصلة، بل كوكلاء مستقلين قادرين على التواصل مع بعضهم البعض، وإجراء النقاشات، والتأثير على القرارات الجماعية. هذه المجتمعات من الوكلاء أصبحت هدفاً مغرياً للمهاجمين: يكفي إدخال عناصر خاضعة للسيطرة فيها لتغيير الديناميكية العامة. الأساليب الحالية للهجمات — مثل التلاعب بالبرومبتات أو إنشاء غرف صدى معزولة — تتطلب بنية تحتية معقدة إلى حد ما وغالباً لا تعمل في الظروف الواقعية. لكن بحثاً حديثاً يُظهر أن هناك مساراً أكثر دهاءً: استخدام ذاكرة الوكلاء أنفسهم كقناة خفية لنشر الأفكار المستقطِبة.
الذاكرة كقناة للهجوم
اقترح باحثون من جامعة تسينغهوا (Haoran Bu, Zejian Chen, Litian Zhang, Xi Zhang) تهديداً جديداً أُطلق عليه «الشلال الاستقطابي بوساطة الذاكرة» (Memory-Mediated Polarization Cascade). جوهر الفكرة هو أولاً إدخال حجج تدعم الموقف الحالي لمجموعة صغيرة من الوكلاء المستهدفين في ذاكرتهم بشكل غير ملحوظ، ثم انتظار اللحظة التي يدفعهم فيها النقاش العام إلى تذكر هذه الحجج والتعبير عنها علناً. تلعب الذاكرة هنا دور المخزن المستقر: يمكن استرجاع المعلومات بعد مرور الوقت. أما النقاش العام، في المقابل، فيعمل كقناة ناقلة تنشر الأفكار التي قيلت مرة واحدة إلى بقية المجتمع. يستهدف هذا النهج المجتمع ككل، لأن المهمة ليست تغيير وكيل واحد، بل إثارة مواجهة بين المجموعات. في إطار هذا العمل، تم إنشاء هجوم GraphWake الذي يستخدم هذا المبدأ.
المراحل الثلاث للشلال
يتطور هجوم GraphWake عبر ثلاث مراحل محددة بوضوح. كل مرحلة منها هي حلقة ضرورية لكي تمر سلسلة الاستقطاب من وكيل واحد إلى نطاق المجتمع بأكمله.
المرحلة 1: التعريض والاحتفاظ
يختار المهاجم مجموعة صغيرة من الوكلاء المستهدفين ويعرض عليهم حججاً لا تتعارض مع موقفهم الحالي، بل على العكس، تدعمه وتقوّيه. تعالج ذاكرة الوكيل هذه الحجج وتخزّنها كجزء من تاريخه. ظاهرياً، لا يحدث شيء: يواصل الوكلاء محادثاتهم العادية، لكن في ذاكرتهم طويلة المدى وُضعت بالفعل «ألغام» — أطروحات ستنفجر لاحقاً.
المرحلة 2: الاسترجاع وإعادة الإنتاج
عندما يبدأ نقاش عام في المجتمع حول موضوع محايد من حيث المواقف، يصبح ذلك محفزاً. يسترجع الوكلاء المستهدفون الحجج المحتفظ بها سابقاً من الذاكرة ويبدأون في إعادة إنتاجها كأنها آراؤهم الخاصة. من المهم أن النقاش نفسه لا يفرض شيئاً — إنه فقط بمثابة الزناد لتفعيل المعلومات المخزنة.
المرحلة 3: الانتشار التكراري
الوكلاء الآخرون الذين لم يكونوا أهدافاً للهجوم يسمعون هذه الحجج المُعاد إنتاجها، وبما أنها تبدو مقنعة، يبدأون في إعادة سردها إلى الآخرين. هكذا يتشكل شلال: مجموعة صغيرة في البداية من «الناقلين» تُصيب المجتمع بأكمله، ويتعزز الاستقطاب مع كل دورة إعادة إنتاج. ونتيجة لذلك، ينقسم المجتمع إلى فصائل متعارضة، كل منها تتعزز في اقتناعها بصوابها.
مكونات GraphWake
لتنفيذ الشلال الموصوف، طوّر المؤلفون مجموعة أدوات أُطلق عليها اسم GraphWake. يقوم على ثلاثة مكونات رئيسية مسؤولة عن جوانب مختلفة من الهجوم.
رسوم المعرفة للحجج
المكون الأول هو رسوم معرفة خاصة تعكس العلاقة بين الحجج والمواقف التي تدعمها. تسمح لآلية الهجوم ببناء ادعاءات معقولة بناءً على معتقدات الوكيل الموجودة مسبقاً. بفضل هذا، تبدو الحجج طبيعية ولا تثير الشكوك.
الاختيار الموجّه بالبديهيات للثلاثيات
المكون الثاني مسؤول عن اختيار الحجج و«تنقيتها». من بين العديد من الأطروحات المحتملة، يتم اختيار فقط تلك التي يُضمن بقاؤها في ذاكرة الوكيل ثم إعادة إنتاجها بدقة. إنه نوع من المرشح الذي يُبقي فقط الادعاءات الأكثر فعالية من حيث التذكر والاسترجاع اللاحق.
التحفيز المحايد من الذاكرة
المكون الثالث هو آلية تُطلق استرجاع الحجج المخزنة في اللحظة المناسبة. يستخدم إشارات محايدة من حيث الموقف من النقاش العام «لإيقاظ» ذاكرة الوكلاء المستهدفين ودفعهم إلى إعادة الإنتاج العلني. من المهم أن هذه الإشارات لا تحتوي على الأطروحات المثيرة للجدل نفسها، لذلك يبقى الهجوم خفياً.
التجارب والاستنتاجات
اختبر المؤلفون GraphWake على عدة سيناريوهات نقاشية ومع تطبيقات مختلفة لأنظمة الذاكرة. النتائج واضحة: الطريقة المقترحة تعزز بشكل كبير الاستقطاب الجماعي مقارنة بالحالة الأصلية للمجتمع. حتى مع عدد صغير من الوكلاء المستهدفين، ينتشر التأثير إلى المجموعة بأكملها، مما يؤكد الطبيعة الشلالية للهجوم.
الاستنتاج الرئيسي من العمل — ليس مجرد إظهار ثغرة، بل تحذير: الاستقطاب يمكن أن ينشأ ليس بسبب تلاعب صريح بالمحتوى، بل عبر تأثير غير ملحوظ على ذاكرة الوكلاء. هذا يعني أنه لحماية مجتمعات الوكلاء، يجب الانتباه ليس فقط إلى البرومبتات المقدمة، بل أيضاً إلى كيفية تنظيم الذاكرة طويلة المدى وما هي المعتقدات الخفية المتراكمة فيها. على مطوري المنصات التفكير في آليات للتحكم فيما «يتذكره» الوكلاء، وفي طرق كشف الحجج المُدخلة اصطناعياً.
