الوكلاء المستقلون على أندرويد، القائمون على نماذج لغوية كبيرة، يتولون بشكل متزايد المهام الروتينية على الهاتف الذكي: من حجز الطاولات إلى المراسلات في تطبيقات المحادثة. ومع نمو قدراتهم، تظهر فئة جديدة من التهديدات. هؤلاء الوكلاء يحللون المحتوى الذي يظهر على الشاشة — وهو ليس دائمًا موثوقًا. يمكن للمهاجم إخفاء تعليمات ضارة في واجهة تطبيق تبدو عادية للوهلة الأولى، وسينفذها الوكيل حتى لو لم يطلب المستخدم ذلك. لفحص هذه السيناريوهات بشكل منهجي، قدم الباحثون معيار MobileWorldSafety.
لماذا هذا مهم
وكلاء الواجهات الرسومية المُدارون بـ LLM ينتقلون بالفعل من النماذج المخبرية إلى الاستخدام الفعلي. لكن على عكس البرامج التقليدية، فهم لا ينفذون الأوامر فحسب، بل يفسرون محتوى الشاشة. وهذا يجعلهم حساسين لحقن السياق — فئة من الهجمات تشمل حقن التعليمات غير المباشر والتوجيهات الضارة المدمجة في الواجهة. قد يفسر الوكيل لافتة إعلانية أو منشورًا على وسائل التواصل الاجتماعي كتعليمات للتنفيذ، وعلى سبيل المثال، تحويل أموال أو نشر بيانات خاصة.
الاختبارات الحالية للوكلاء تركز عادةً على الوظائف: هل أنجز الوكيل المهمة، وهل ضغط على الأزرار بشكل صحيح. لكنها لا تحاكي تقريبًا السيناريوهات اليومية التي تُقوَّض فيها سلامة الوكيل عبر سياق المستخدم العادي. هذه هي الفجوة التي يحاول المعيار الجديد سدها.
ما هو MobileWorldSafety
مؤلفو المعيار — Sujin Chen وLijun Li وTianyi Du وJing Shao — نشروا نسخة أولية على arXiv بالمعرف 2608.17659. يصف العمل 142 مهمة خطر، تُنفَّذ على تطبيقات أندرويد حقيقية. كل مهمة مصممة بحيث تحتوي على مؤشر خطر قابل للتحقق برمجيًا: من الحالة النهائية للنظام يمكن معرفة ما إذا حدث إجراء غير آمن.
خصوصية التقييم تكمن في خط أنابيب من مرحلتين. أولاً، فحص بسيط قائم على القواعد يستبعد الحالات الواضحة: على سبيل المثال، إذا أرسل الوكيل رسالة إلى رقم خاطئ. إذا كانت النتيجة غامضة، يتدخل حكم LLM. هذا النهج يسمح بفصل أعطال الأمان عن أعطال الوظائف وجعل التقييم قابلاً للتكرار.
المعيار لا يعدد نقاط الضعف فحسب، بل يقدم مقياسًا: مدى نجاح المحتوى المهاجم في الاستيلاء على التحكم بالوكيل.
النتائج: مقلقة حتى الآن
اختبر الباحثون ستة وكلاء مختلفين عبر MobileWorldSafety — سواء للأغراض العامة أو المتخصصة في مهام الواجهات الرسومية. أظهرت النتائج أن جميعهم يظلون عرضة بدرجة عالية: حققت الهجمات نجاحًا في 40.4% إلى 66.9% من الحالات. هذا يعني أن ما يقرب من كل مكالمة ثانية، أو حتى الثانية إلى الثالثة، قد تنتهي بإجراء غير مرغوب فيه.
الاستنتاج الخاص للعمل هو أن الوكلاء غالبًا ما يفقدون مواءمة السلامة عندما يُقدَّم المحتوى الضار كسياق جوال عادي. بعبارة أخرى، يتبعون قواعد السلامة جيدًا في الحوارات الصريحة، لكنهم لا يتعرفون على الخطر داخل الواجهة.
ماذا بعد
MobileWorldSafety أُنشئ ليس كاختبار فحسب، بل كأداة للتطوير: فهو يسمح بتقييم نقاط الضعف كميًا والتحقق مما إذا كانت الإصدارات الجديدة من الوكلاء أكثر مقاومة. يأمل المؤلفون أن يصبح المعيار نقطة انطلاق للأبحاث في مجال وكلاء الواجهات الرسومية الآمنة للجوال.
في الوقت الحالي، الاستنتاج واضح: قبل الوثوق بالوكلاء في العمليات الحساسة على الهاتف الذكي، يجب ليس فقط تدريبهم على الوظائف، بل أيضًا تدريبهم خصيصًا ضد الهجمات عبر السياق. وإلا فإن "المساعد الذكي" يخاطر بالتحول إلى أداة للمهاجم، تعمل باسم مالك الجهاز.
