PerMIT: سلامة الذاكرة طويلة الأمد لوكلاء LLM والثقة الجماعية مع التحقق الآلي

20 نوفمبر 20260 الآراء

يقترح المؤلفون بنية PerMIT، التي تحدّ من تسرب البيانات غير الموثوقة من البيئة إلى الإجراءات الحساسة للوكيل عبر واجهة ذاكرة محدودة؛ وتقلّل مبرهنتان تم التحقق منهما باستخدام Lean 4، إلى جانب تراكم أحكام المجتمع، من مخاطر التسميم من دون زيادة العبء على المستخدم الفردي. وفي التجارب على Trojan Hippo وτ²-bench، لم يرصد النهج أي عمليات حقن ناجحة عند استخدام مدقّقات خفيفة، كما حسّن نتائج الوكلاء الجدد في المهام المؤجّلة.

PerMIT: سلامة الذاكرة طويلة الأمد لوكلاء LLM والثقة الجماعية مع التحقق الآلي

PerMIT — بنية ذاكرة لوكلاء النماذج اللغوية الكبيرة. مقال لـ Tanqiu Jiang وMin Bai وSadat Shahriar وWanyu Du وSandesh Swamy، قُدّم في 20 أكتوبر 2026؛ arXiv:2610.28987.

نموذج الثقة

يفترض PerMIT الثقة صراحةً. لا تُعدّ موثوقةً إلا البيانات التي يُدخلها المستخدم والقيم التي تؤكدها البوابة. وتظل جميع القيم الواردة من البيئة غير موثوقة. تنظّم البنية انتقالها واستخدامها عبر واجهة ذاكرة محدودة. ويظل تخطيط الوكيل متعدد الخطوات واختياره للأدوات قائمين.

المعيار العملي: يكون السيناريو مناسبًا إذا عُدّ إدخال المستخدم موثوقًا، بينما عُدّت بيانات البيئة غير موثوقة.

البوابة والقرارات القابلة للتحقق

تعتمد واجهة الذاكرة المحدودة على بوابة. ويبرهن المؤلفون على مبرهنتين للسلامة الخاصة بالواجهة. وقد خضعت المبرهنتان للتحقق الآلي باستخدام Lean 4. وتضمنان معًا خاصيتين. لا تصل الذاكرة الواردة من البيئة إلى إجراء حساس إلا بعد تأكيدها عبر البوابة. ولا يتغير سلوك الوكيل إلا من خلال ما تعرضه البوابة.

ضمن نموذج التهديدات، يمكن اختزال كل هجوم إلى قرار واحد قابل للتحقق. وعمليًا، يتخذ القرارَ إنسانٌ أو مدقّقٌ قائم على نموذج لغوي كبير أو كلاهما.

المعيار العملي: تنطبق الحماية ضمن نموذج تهديدات يُختزل فيه الهجوم إلى قرار واحد قابل للتحقق.

التأكيدات والثقة الجماعية

كل تأكيد هو حكم مسجّل بشأن محتوى محدد بعينه. وتتراكم التأكيدات بين المستخدمين. وتصبح العناصر التي تحظى بدعم كافٍ مؤكدةً من المجتمع دون الحاجة إلى مزيد من التحقق.

وبناءً على افتراضات صريحة، يبرهن المؤلفون على خاصية التوسع المشترك. كما يؤكدونها في محاكاة. فمع نمو المجتمع، تنخفض مخاطر ترقية البيانات المسمومة والحذف الخاطئ للمعارف السليمة. ولا تزداد جهود التحقق المطلوبة من المستخدم الواحد.

ما الذي يتغير مع نمو المجتمعالاتجاه
مخاطر ترقية البيانات المسمومةتنخفض
مخاطر الحذف الخاطئ للمعارف السليمةتنخفض
جهود التحقق المطلوبة من المستخدم الواحدلا تزداد

المعيار العملي: تكون الطبقة الجماعية مناسبة عندما ترتبط الأحكام بمحتوى محدد بعينه وتتراكم بين المستخدمين.

الاختبارات

في Trojan Hippo، حقق PerMIT صفر نجاحات ملحوظة للهجمات. وقد تحققت هذه النتيجة باستخدام التحقق الذاتي والمدقّقات خفيفة الوزن.

في τ²-bench، أنشأت مجتمعات يصل عددها إلى 90 وكيلًا مستقلًا قواعدَ معرفية مشتركة باستخدام PerMIT. ولم تتم ترقية أي حقن مباشر في الذاكرة. كما حسّنت المعارف الناتجة أداء الوكلاء الجدد بشكل ملحوظ في المهام المحجوبة.

المعيار العملي نتيجتان: عدم ترقية الحقن المباشر، وتحسين أداء الوكلاء الجدد في المهام المحجوبة.

الأسئلة المتكررة

المواد ذات الصلة

جميع المواد
نظام ذكاء اصطناعي مركّب متعدد الوكلاء مع حلقة قائمة على الأدلة لتخطيط العلاج بالبروتونات لأورام الرأس والعنق
الأخبار

نظام ذكاء اصطناعي مركّب متعدد الوكلاء مع حلقة قائمة على الأدلة لتخطيط العلاج بالبروتونات لأورام الرأس والعنق

يصف العمل تكامل سياسة PPO مُدرَّبة تُصدر عدة خيارات للخطة، مع وكلاء LLM يديرون حوارًا تفاعليًا للتوضيح، مع التحقق من المقاييس والقيود السريرية؛ وبالاستناد إلى بيانات 21 مريضًا، اتبعت Qwen3-14B بعد ضبطها الدقيق التعليمات بصورة أفضل، وساعدت على ترجيح المفاضلة لصالح الأهداف ذات الأولوية. والخلاصة العملية هي أن تخطيط DRL الآلي يمكن استكماله بحوار موجَّه، مع الحفاظ على التحكم في القيود المتنافسة.

20 نوفمبر 2026
الفحص الحاسوبي بدلًا من التجربة والخطأ: مقاربات جديدة لمواد البطاريات
البحوث

الفحص الحاسوبي بدلًا من التجربة والخطأ: مقاربات جديدة لمواد البطاريات

توضح المادة كيف تُضيّق قواعد البيانات الحسابية والتعلّم الآلي والنماذج التوليدية نطاق التركيبات الواعدة، بينما تُسرّع المختبرات المؤتمتة اختبارها؛ لكن النتيجة النهائية تعتمد على التخليق والاختبارات، حيث قد تختلف التوقعات عن الموصلية الفعلية.

20 نوفمبر 2026
تطوّر معايير تقييم الوكلاء مع توسيع مجموعة المهام: دور اختيار الأدلة والسباقات المتتابعة
الأخبار

تطوّر معايير تقييم الوكلاء مع توسيع مجموعة المهام: دور اختيار الأدلة والسباقات المتتابعة

توضح الدراسة لماذا قد يؤدي زيادة عدد المهام إلى إضعاف تطور بيئات اختبار الوكلاء: فالسبب هو سوء اختيار الشواهد، لا حجم البيانات بحد ذاته. وتختار الطريقة المقترحة Successive Scale Racing تباعًا مجموعات متنوعة من المهام، وتقارن بين المرشحين بتكلفة منخفضة؛ وقد رفعت على ثلاثة معايير اختبار نسبة التشغيلات الناجحة عند زيادة المجموعة من 40 إلى 200، في حين تراجعت الطرق الأساسية، وانخفض عدد عمليات التحقق بنحو 60%.

19 نوفمبر 2026
PerMIT: سلامة الذاكرة طويلة الأمد لوكلاء LLM والثقة الجماعية مع التحقق الآلي