التحقق من سياسات الوكلاء دون الاعتماد على الموجّه: بيئات تنفيذ، ومجموعات اختبار، ومرشح قابل للتدريب

20 نوفمبر 20260 الآراء

يقدّم العمل إطارًا يحوّل بيئات التنفيذ إلى مجموعات من السيناريوهات لاختبار سياسات الوكلاء، ويتيح تحسين المكوّن الوقائي بصورة تكرارية. ويخفض المرشّح المدرَّب معدل الانتهاكات الناجحة بنسبة 40–44% مقارنةً بالاعتماد على تعليمات المطالبة وحدها، كما يقلّ رفضه الخاطئ للطلبات الآمنة.

التحقق من سياسات الوكلاء دون الاعتماد على الموجّه: بيئات تنفيذ، ومجموعات اختبار، ومرشح قابل للتدريب

حدود الموجّه: لماذا لا تكفي التعليمات

في عمليات نشر الوكلاء المخصصة، تحدد السياسات قواعد الأدوات والموارد وظروف التنفيذ. لكن تضمين هذه القواعد في الموجّه لا يضمن منع الانتهاكات على نحو موثوق. فالموجّه يحدد النص، لكنه لا يتحقق من الاستدعاء الفعلي. وفي جميع حالات الانتهاك، تُستخدم أداة مسموح بها. لذا ينبغي التحقق من الوسيطات والموارد والسياق، لا من اسم الأداة وحده.

يتطلب تدريب آلية دفاعية أمثلة على استدعاءات تلتزم بالسياسة وأخرى تنتهكها. ومن دون هذه الأزواج، يستند التحقق إلى نص القواعد لا إلى السلوك المرصود.

المعيار العملي: التعامل مع الموجّه على أنه مجرد حامل للقواعد. وينبغي بناء التحقق على بيانات الاستدعاءات ونتائجها.

بيئة تنفيذ: التحقق من الاستدعاء الفعلي

يستخدم AgentPolicyForge بيئات تنفيذ لإنشاء اختبارات مرجعية للسياسات وتدريب الآليات الدفاعية تكراريًا. تنفذ البيئة استدعاءات الأدوات وتسجل النتائج. ويُحدَّد مدى الامتثال للسياسة استنادًا إلى النتائج. وهذا يختلف عن قراءة الموجّه: إذ يجري التحقق بناءً على التنفيذ الفعلي.

العناصر الأساسية للتحقق:

  • تنفيذ الاستدعاء في البيئة؛
  • تسجيل نتيجة الاستدعاء؛
  • مطابقة الوسيطات والموارد والسياق مع السياسة؛
  • استخدام أداة مسموح بها في أمثلة الانتهاك.

الخلاصة: يجب تنفيذ الاختبار المرجعي. ومعيار اختيار البيئة هو حفظ النتائج وإمكانية التحقق من الوسيطات والموارد والسياق.

PolicyGym: سيناريوهات التدريب والاختبارات المؤجلة

استنادًا إلى إطار العمل، أُنشئت PolicyGym، وهي مجموعة بيانات تغطي عشر فئات من السياسات. تضم 698 سيناريو لإنشاء بيانات التدريب. كما تتضمن 254 سيناريو مؤجلًا لمجموعات الاختبار.

جزء المجموعةالغرضالحجم
سيناريوهات لإنشاء بيانات التدريبإعداد أمثلة التدريب698
سيناريوهات مؤجلةمجموعات الاختبار254

تحقق أشخاص من السيناريوهات المؤجلة. المعيار العملي: إبقاء سيناريوهات التدريب والسيناريوهات المؤجلة منفصلة. يجب أن تكون مجموعة الاختبار مستقلة عن إنشاء بيانات التدريب.

مرشّح مُدرَّب في مواجهة التنظيم الذاتي للوكيل

تقارن PolicyGym بين نهجين: التنظيم الذاتي للوكيل مع مراعاة السياسة، وآلية دفاعية مُدرَّبة. يحقق التكوين النهائي المزود بآلية دفاعية انخفاضًا نسبيًا بنسبة 40–44% في نسبة الهجمات الناجحة. كما يؤدي إلى عدد أقل من حالات الرفض الخاطئ للطلبات غير الضارة مقارنةً بتطبيق السياسات في الموجّه وحده.

التكوينما الذي يستخدمهالنتيجة الفعلية
السياسات في الموجّه وحدهانص السياساتخط أساس للمقارنة
التكوين النهائي المزود بآلية دفاعيةمرشّح مُدرَّبانخفاض الهجمات الناجحة بنسبة 40–44%؛ وحالات رفض خاطئ أقل

المعيار العملي: مقارنة الآلية الدفاعية بخط أساس الموجّه. ومراقبة الهجمات الناجحة وحالات الرفض الخاطئ معًا.

دورة تكرارية: الهجوم، والضبط الدقيق، وتحديث الأرشيف

تدعم عملية إنشاء الأمثلة التدريب التكراري للآلية الدفاعية. ينشئ المهاجم طلبات باستخدام الاستراتيجيات المستخلصة. وتُضبط الآلية الدفاعية بدقة على أمثلة متوازنة جرى التحقق منها في البيئة. ويرفع التدريب فعالية تطبيق السياسات حتى مع أرشيف ثابت.

ويحقق تحديث الأرشيف أثرًا إضافيًا. فهو يقلل نجاح الهجمات داخل النطاق مقارنةً بالإبقاء على الأرشيف دون تغيير.

مراحل الدورة:

  1. استخلاص استراتيجيات الهجوم.
  2. إنشاء طلبات للمهاجم.
  3. التحقق من الأمثلة في بيئة التنفيذ.
  4. موازنة الأمثلة وضبط الآلية الدفاعية بدقة.
  5. تحديث أرشيف الهجمات.

المعيار العملي: اعتماد دورة لتحديث الأرشيف والتحقق من الأمثلة في البيئة. يحقق الأرشيف الثابت أثرًا تدريبيًا بالفعل. ويضيف التحديث انخفاضًا في نجاح الهجمات داخل النطاق.

الأسئلة المتكررة

المواد ذات الصلة

جميع المواد
PerMIT: سلامة الذاكرة طويلة الأمد لوكلاء LLM والثقة الجماعية مع التحقق الآلي
الأخبار

PerMIT: سلامة الذاكرة طويلة الأمد لوكلاء LLM والثقة الجماعية مع التحقق الآلي

يقترح المؤلفون بنية PerMIT، التي تحدّ من تسرب البيانات غير الموثوقة من البيئة إلى الإجراءات الحساسة للوكيل عبر واجهة ذاكرة محدودة؛ وتقلّل مبرهنتان تم التحقق منهما باستخدام Lean 4، إلى جانب تراكم أحكام المجتمع، من مخاطر التسميم من دون زيادة العبء على المستخدم الفردي. وفي التجارب على Trojan Hippo وτ²-bench، لم يرصد النهج أي عمليات حقن ناجحة عند استخدام مدقّقات خفيفة، كما حسّن نتائج الوكلاء الجدد في المهام المؤجّلة.

20 نوفمبر 2026
نظام ذكاء اصطناعي مركّب متعدد الوكلاء مع حلقة قائمة على الأدلة لتخطيط العلاج بالبروتونات لأورام الرأس والعنق
الأخبار

نظام ذكاء اصطناعي مركّب متعدد الوكلاء مع حلقة قائمة على الأدلة لتخطيط العلاج بالبروتونات لأورام الرأس والعنق

يصف العمل تكامل سياسة PPO مُدرَّبة تُصدر عدة خيارات للخطة، مع وكلاء LLM يديرون حوارًا تفاعليًا للتوضيح، مع التحقق من المقاييس والقيود السريرية؛ وبالاستناد إلى بيانات 21 مريضًا، اتبعت Qwen3-14B بعد ضبطها الدقيق التعليمات بصورة أفضل، وساعدت على ترجيح المفاضلة لصالح الأهداف ذات الأولوية. والخلاصة العملية هي أن تخطيط DRL الآلي يمكن استكماله بحوار موجَّه، مع الحفاظ على التحكم في القيود المتنافسة.

20 نوفمبر 2026
الفحص الحاسوبي بدلًا من التجربة والخطأ: مقاربات جديدة لمواد البطاريات
البحوث

الفحص الحاسوبي بدلًا من التجربة والخطأ: مقاربات جديدة لمواد البطاريات

توضح المادة كيف تُضيّق قواعد البيانات الحسابية والتعلّم الآلي والنماذج التوليدية نطاق التركيبات الواعدة، بينما تُسرّع المختبرات المؤتمتة اختبارها؛ لكن النتيجة النهائية تعتمد على التخليق والاختبارات، حيث قد تختلف التوقعات عن الموصلية الفعلية.

20 نوفمبر 2026
التحقق من سياسات الوكلاء دون الاعتماد على الموجّه: بيئات تنفيذ، ومجموعات اختبار، ومرشح قابل للتدريب