बड़े भाषा मॉडल पर आधारित स्वायत्त एंड्रॉइड एजेंट तेजी से स्मार्टफोन पर नियमित कार्यों को अपने हाथ में ले रहे हैं — टेबल बुक करने से लेकर मैसेजिंग ऐप्स पर बातचीत करने तक। उनकी क्षमताओं में वृद्धि के साथ, खतरों का एक नया वर्ग भी सामने आ रहा है। ऐसे एजेंट स्क्रीन पर दिखने वाली सामग्री का विश्लेषण करते हैं — और वह सामग्री हमेशा भरोसेमंद नहीं होती। कोई हमलावर किसी सामान्य दिखने वाले ऐप इंटरफ़ेस में दुर्भावनापूर्ण निर्देश छिपा सकता है, और एजेंट उसे निष्पादित कर देगा, भले ही उपयोगकर्ता ने ऐसा अनुरोध न किया हो। ऐसे परिदृश्यों की व्यवस्थित जाँच के लिए, शोधकर्ताओं ने MobileWorldSafety बेंचमार्क प्रस्तुत किया है।
यह महत्वपूर्ण क्यों है
LLM-नियंत्रित GUI एजेंट पहले से ही प्रयोगशाला प्रोटोटाइप से वास्तविक उपयोग की ओर बढ़ रहे हैं। लेकिन पारंपरिक प्रोग्रामों के विपरीत, वे केवल कमांड निष्पादित नहीं करते, बल्कि स्क्रीन की सामग्री की व्याख्या करते हैं। यह उन्हें परिवेश में घुसपैठ के प्रति संवेदनशील बनाता है — हमलों की एक श्रेणी जिसमें अप्रत्यक्ष प्रॉम्प्ट-इंजेक्शन और इंटरफ़ेस में निर्मित दुर्भावनापूर्ण निर्देश शामिल हैं। एजेंट किसी विज्ञापन बैनर या सोशल मीडिया पोस्ट को कार्रवाई के निर्देश के रूप में ले सकता है और, उदाहरण के लिए, पैसे ट्रांसफर कर सकता है या निजी डेटा प्रकाशित कर सकता है।
एजेंटों के लिए मौजूदा परीक्षण आमतौर पर कार्यक्षमता पर केंद्रित होते हैं: क्या एजेंट ने कार्य पूरा किया, क्या उसने सही बटन दबाए। लेकिन वे लगभग उन रोज़मर्रा के परिदृश्यों को मॉडल नहीं करते जिनमें सामान्य उपयोगकर्ता संदर्भ के माध्यम से एजेंट की सुरक्षा भंग होती है। इसी अंतर को नया बेंचमार्क भरने का प्रयास करता है।
MobileWorldSafety क्या है
बेंचमार्क के लेखक — Sujin Chen, Lijun Li, Tianyi Du और Jing Shao — ने arXiv पर पहचानकर्ता 2608.17659 के साथ एक प्रीप्रिंट प्रकाशित किया है। कार्य में 142 जोखिम-कार्य वर्णित हैं, जो वास्तविक एंड्रॉइड ऐप्स पर तैनात किए जाते हैं। प्रत्येक कार्य इस तरह डिज़ाइन किया गया है कि उसमें प्रोग्रामेटिक रूप से जाँचने योग्य जोखिम संकेतक हो: सिस्टम की अंतिम स्थिति से यह समझा जा सकता है कि असुरक्षित कार्रवाई हुई या नहीं।
मूल्यांकन की ख़ासियत — दो-चरणीय पाइपलाइन है। पहले, नियम-आधारित सरल जाँच स्पष्ट मामलों को छाँटती है: उदाहरण के लिए, यदि एजेंट ने किसी गलत नंबर पर संदेश भेजा। यदि परिणाम अस्पष्ट है, तो LLM-न्यायाधीश कार्य करता है। यह दृष्टिकोण सुरक्षा विफलताओं को कार्यक्षमता विफलताओं से अलग करने और मूल्यांकन को पुनरुत्पादनीय बनाने की अनुमति देता है।
बेंचमार्क केवल कमज़ोरियों की सूची नहीं देता, बल्कि एक मीट्रिक प्रदान करता है: हमलावर सामग्री एजेंट पर नियंत्रण हासिल करने में कितनी सफल होती है।
परिणाम: अभी चिंताजनक
शोधकर्ताओं ने MobileWorldSafety के माध्यम से छह अलग-अलग एजेंट चलाए — सामान्य-उद्देश्य वाले और GUI-कार्यों के लिए विशेषीकृत दोनों। परिणामों से पता चला कि वे सभी काफी हद तक कमज़ोर बने हुए हैं: हमले 40.4% से 66.9% मामलों में सफल रहे। इसका मतलब है कि लगभग हर दूसरा, और यहाँ तक कि हर दूसरा-तीसरा कॉल अवांछित कार्रवाई में समाप्त हो सकता है।
कार्य का विशेष निष्कर्ष यह है कि जब दुर्भावनापूर्ण सामग्री सामान्य मोबाइल संदर्भ के रूप में प्रस्तुत की जाती है, तो एजेंट अक्सर safety alignment खो देते हैं। दूसरे शब्दों में, वे स्पष्ट संवादों में सुरक्षा नियमों का अच्छी तरह पालन करते हैं, लेकिन इंटरफ़ेस के भीतर खतरे को नहीं पहचानते।
आगे क्या
MobileWorldSafety केवल एक परीक्षण के रूप में नहीं, बल्कि विकास के एक उपकरण के रूप में बनाया गया है: यह कमज़ोरियों का मात्रात्मक मूल्यांकन करने और यह जाँचने की अनुमति देता है कि एजेंटों के नए संस्करण अधिक प्रतिरोधी बन रहे हैं या नहीं। लेखकों को उम्मीद है कि बेंचमार्क सुरक्षित मोबाइल GUI एजेंटों के क्षेत्र में अनुसंधान के लिए एक प्रारंभिक बिंदु बन जाएगा।
फिलहाल निष्कर्ष स्पष्ट है: एजेंटों को स्मार्टफोन पर संवेदनशील कार्यों की ज़िम्मेदारी सौंपने से पहले, उन्हें न केवल कार्यक्षमता में प्रशिक्षित करना होगा, बल्कि परिवेश के माध्यम से होने वाले हमलों के खिलाफ विशेष रूप से प्रशिक्षित भी करना होगा। अन्यथा, "स्मार्ट सहायक" डिवाइस मालिक की ओर से कार्य करने वाला हमलावर का उपकरण बनने का जोखिम उठाता है।
