বড় ভাষার মডেলের উপর ভিত্তি করে তৈরি স্বায়ত্তশাসিত অ্যান্ড্রয়েড এজেন্টরা ক্রমবর্ধমানভাবে স্মার্টফোনের রুটিন কাজগুলো নিজের হাতে নিচ্ছে — টেবিল বুকিং থেকে মেসেঞ্জারে কথোপকথন পর্যন্ত। তাদের ক্ষমতা বৃদ্ধির সাথে সাথে একটি নতুন ধরণের হুমকিও দেখা দিচ্ছে। এই এজেন্টরা স্ক্রিনে যা দেখা যায় তা বিশ্লেষণ করে — আর সেই কন্টেন্ট সবসময় বিশ্বস্ত নয়। আক্রমণকারী একটি আপাতদৃষ্টিতে সাধারণ অ্যাপ ইন্টারফেসের মধ্যে ক্ষতিকারক নির্দেশনা লুকিয়ে রাখতে পারে, এবং এজেন্ট তা কার্যকর করবে, এমনকি ব্যবহারকারী তা চাইলে না। এই ধরনের পরিস্থিতি পদ্ধতিগতভাবে পরীক্ষা করার জন্য গবেষকরা MobileWorldSafety বেঞ্চমার্ক উপস্থাপন করেছেন।
কেন এটি গুরুত্বপূর্ণ
LLM-চালিত GUI-এজেন্টরা ইতিমধ্যে ল্যাবরেটরি প্রোটোটাইপ থেকে বাস্তব ব্যবহারের পথে এগিয়ে যাচ্ছে। কিন্তু ক্লাসিক্যাল প্রোগ্রামের বিপরীতে, তারা কেবল কমান্ড কার্যকর করে না, বরং স্ক্রিনের বিষয়বস্তু ব্যাখ্যা করে। এটি তাদের এনভায়রনমেন্ট ইনজেকশনের প্রতি সংবেদনশীল করে তোলে — এক শ্রেণীর আক্রমণ, যার মধ্যে রয়েছে পরোক্ষ প্রম্পট-ইনজেকশন এবং ইন্টারফেসে এমবেড করা ক্ষতিকারক নির্দেশনা। এজেন্ট একটি বিজ্ঞাপন ব্যানার বা সোশ্যাল মিডিয়া পোস্টকে কাজের নির্দেশনা হিসেবে নিতে পারে এবং, উদাহরণস্বরূপ, অর্থ স্থানান্তর করতে পারে বা ব্যক্তিগত ডেটা প্রকাশ করতে পারে।
এজেন্টদের জন্য বিদ্যমান পরীক্ষাগুলো সাধারণত কার্যকারিতার উপর কেন্দ্রীভূত: এজেন্ট কাজটি সম্পন্ন করেছে কিনা, সঠিকভাবে বাটন চেপেছে কিনা। কিন্তু তারা প্রায় কখনোই দৈনন্দিন পরিস্থিতি মডেল করে না, যেখানে সাধারণ ব্যবহারকারীর কনটেক্সটের মাধ্যমে এজেন্টের নিরাপত্তা ক্ষুণ্ণ হয়। এই ফাঁকটিই নতুন বেঞ্চমার্ক পূরণ করার চেষ্টা করছে।
MobileWorldSafety কী
বেঞ্চমার্কের লেখক — Sujin Chen, Lijun Li, Tianyi Du এবং Jing Shao — arXiv-এ 2608.17659 আইডেন্টিফায়ার সহ একটি প্রিপ্রিন্ট প্রকাশ করেছেন। কাজটিতে ১৪২টি ঝুঁকি-কাজ বর্ণনা করা হয়েছে, যা বাস্তব Android অ্যাপ্লিকেশনে চালানো হয়। প্রতিটি কাজ এমনভাবে সাজানো হয়েছে যাতে এটির একটি প্রোগ্রাম্যাটিকভাবে যাচাইযোগ্য ঝুঁকি সূচক থাকে: সিস্টেমের চূড়ান্ত অবস্থা থেকে বোঝা যায়, একটি অনিরাপদ কাজ ঘটেছে কিনা।
মূল্যায়নের বিশেষত্ব — একটি দ্বি-পর্যায়ের পাইপলাইন। প্রথমে, নিয়ম-ভিত্তিক একটি সহজ পরীক্ষা স্পষ্ট ক্ষেত্রগুলো বাতিল করে: উদাহরণস্বরূপ, যদি এজেন্ট অন্য নম্বরে বার্তা পাঠায়। ফলাফল অস্পষ্ট হলে, LLM-জাজ কাজ করে। এই পদ্ধতি নিরাপত্তা ব্যর্থতাকে কার্যকারিতার ব্যর্থতা থেকে আলাদা করতে এবং মূল্যায়নকে পুনরুৎপাদনযোগ্য করতে সাহায্য করে।
বেঞ্চমার্ক কেবল দুর্বলতার তালিকা দেয় না, বরং একটি মেট্রিক দেয়: আক্রমণাত্মক কন্টেন্ট কতটা সফলভাবে এজেন্টের নিয়ন্ত্রণ দখল করতে পারে।
ফলাফল: আপাতত উদ্বেগজনক
গবেষকরা MobileWorldSafety-এর মাধ্যমে ছয়টি ভিন্ন এজেন্ট চালিয়েছেন — সাধারণ-উদ্দেশ্যের পাশাপাশি GUI-কাজে বিশেষায়িত। ফলাফল দেখিয়েছে যে তারা সবাই উচ্চ মাত্রায় দুর্বল: আক্রমণ ৪০.৪% থেকে ৬৬.৯% ক্ষেত্রে সফল হয়েছে। এর অর্থ হলো, প্রায় প্রতি দ্বিতীয় বা এমনকি প্রতি দ্বিতীয়-তৃতীয় কল একটি অবাঞ্ছিত কাজে শেষ হতে পারে।
কাজের একটি বিশেষ সিদ্ধান্ত হলো, ক্ষতিকারক কন্টেন্ট যখন সাধারণ মোবাইল কনটেক্সট হিসেবে উপস্থাপিত হয়, তখন এজেন্টরা প্রায়ই safety alignment হারিয়ে ফেলে। অন্য কথায়, তারা স্পষ্ট সংলাপে নিরাপত্তা নিয়ম ভালোভাবে অনুসরণ করে, কিন্তু ইন্টারফেসের ভিতরে বিপদ চিনতে পারে না।
পরবর্তী পদক্ষেপ
MobileWorldSafety শুধুমাত্র একটি পরীক্ষা হিসেবে নয়, বরং উন্নয়নের একটি হাতিয়ার হিসেবেও তৈরি করা হয়েছে: এটি দুর্বলতা পরিমাণগতভাবে মূল্যায়ন করতে এবং নতুন সংস্করণের এজেন্টরা আরও স্থিতিশীল কিনা তা যাচাই করতে দেয়। লেখকরা আশা করেন যে বেঞ্চমার্কটি নিরাপদ মোবাইল GUI-এজেন্ট গবেষণার সূচনা বিন্দু হয়ে উঠবে।
আপাতত উপসংহারটি স্পষ্ট: স্মার্টফোনে সংবেদনশীল কাজের দায়িত্ব এজেন্টদের দেওয়ার আগে, তাদের কেবল কার্যকারিতা শেখানোই নয়, বরং এনভায়রনমেন্টের মাধ্যমে আক্রমণের বিরুদ্ধে বিশেষভাবে প্রশিক্ষণ দেওয়া প্রয়োজন। অন্যথায়, "স্মার্ট সহকারী" ডিভাইস মালিকের পক্ষে কাজ করা আক্রমণকারীর হাতিয়ারে পরিণত হওয়ার ঝুঁকি নেয়।
