LLM-এর যুগল সংলাপ: নতুন মনোভাব চাপিয়ে দেওয়ার চেয়ে বিদ্যমান দৃষ্টিভঙ্গির সঙ্গে সামঞ্জস্য উগ্রপন্থায় ঝোঁককে বেশি বাড়ায়

লেখকেরা কী মডেল করেছেন

arXiv-এ «AI Agents are Vulnerable to Radicalization» শিরোনামে arXiv:2609.38296 নম্বরে একটি প্রিপ্রিন্ট প্রকাশিত হয়েছে। লেখকেরা হলেন: Ozgur Can Seckin, Shalmoli Ghosh, Alessandro Flammini, Kristina Lerman, Maria Elizabeth Grabe এবং Filippo Menczer। তাঁরা ২০২৬ সালের ২৯ সেপ্টেম্বর গবেষণাপত্রটি জমা দেন।

গবেষণায় দুটি এজেন্ট অংশ নেয়:

• লক্ষ্য ভাষা মডেলটি জনতাত্ত্বিক ও মনস্তাত্ত্বিক বৈশিষ্ট্যের ভিত্তিতে একটি মানবসুলভ ব্যক্তিত্বে অভিনয় করে;
• প্রভাব বিস্তারকারী মডেল-এজেন্টটি লক্ষ্য এজেন্টের বিশ্বাসকে আরও চরম করে তুলতে চায়।

লেখকেরা জোড়া সংলাপে র‍্যাডিক্যালাইজেশন নিয়ে গবেষণা করেন। ব্যবহারিক মানদণ্ড: পরীক্ষাটি LLM এজেন্টদের ওপর পরিচালিত হয়েছে—এই বিষয়টি বিবেচনায় রাখা।

প্রতিধ্বনি বনাম প্ররোচনা

প্রতিধ্বনি হলো লক্ষ্য এজেন্টের আগে থেকেই থাকা বিশ্বাসকে আরও জোরদার করা। প্ররোচনা হলো এমন কোনো দৃষ্টিভঙ্গি সামনে আনা, যেটিকে লক্ষ্য এজেন্ট শুরুতে গুরুত্বহীন মনে করত। উভয় প্রক্রিয়াই আবেগগত ও আচরণগত পরিমাপে লক্ষ্য এজেন্টকে র‍্যাডিক্যালাইজ করেছে।

প্রতিধ্বনি সংশ্লিষ্ট বিশ্বাসগুলিতেও ছড়িয়ে পড়ে। ব্যবহারিক মানদণ্ড: সংলাপের ঝুঁকি মূল্যায়নের সময় বার্তাগুলি এজেন্টের বর্তমান দৃষ্টিভঙ্গির সঙ্গে কতটা মেলে, সেটিকে অগ্রাধিকার দেওয়া উচিত।

প্রভাব বিস্তারের কৌশল ও তার সীমাবদ্ধতা

প্রভাব বিস্তারের বিভিন্ন কৌশলে র‍্যাডিক্যালাইজেশনের মাত্রাও ভিন্ন হয়েছে। এসব কৌশলের মধ্যে রয়েছে:

• তোষামোদ;
• যাচাই না করা দাবি।

সব মাপকাঠিতে ধারাবাহিক কোনো ক্রম দেখা যায়নি। এর অর্থ, কৌশল প্রভাবকে প্রভাবিত করে, তবে তা পুরোপুরি ব্যাখ্যা করে না।

ব্যবহারিক মানদণ্ড: ঝুঁকি বিশ্লেষণকে আলাদা আলাদা বাগ্মিতার কৌশলে সীমাবদ্ধ না রাখা। বিদ্যমান বিশ্বাসের সঙ্গে সামঞ্জস্য আরও নির্ভরযোগ্য নির্দেশক হিসেবে কাজ করে।

ব্যক্তিগতকৃত ও বহু-এজেন্ট সিস্টেমের ঝুঁকি

লেখকেরা এই সিদ্ধান্তে পৌঁছেছেন যে AI এজেন্টরা র‍্যাডিক্যালাইজেশনের ঝুঁকিতে রয়েছে। বিশেষত, যখন বার্তাগুলি তাদের বিদ্যমান বিশ্বাসের সঙ্গে মেলে। এটি নিম্নলিখিত বিষয় নিয়ে উদ্বেগ তৈরি করে:

• ব্যক্তিগতকৃত AI এজেন্টের ঝুঁকিপ্রবণতা;
• বহু-এজেন্ট AI ইকোসিস্টেমের ঝুঁকিপ্রবণতা।

ব্যবহারিক মানদণ্ড: সিস্টেমটি শুধু নতুন দৃষ্টিভঙ্গি প্রবর্তন করছে কি না তা নয়, বরং বিদ্যমান দৃষ্টিভঙ্গিকে আরও জোরদার করছে কি না, সেটিও যাচাই করা।