কেন স্ব-শিক্ষণকারী এজেন্ট অস্থির: ফলাফলের বিচ্ছুরণ এবং কাজের ক্রমের উপর নির্ভরশীলতা
স্ব-শিক্ষণকারী এজেন্ট আধুনিক AI-এর সবচেয়ে প্রতিশ্রুতিশীল দিকগুলির মধ্যে একটি। তারা কাজ করার সময় অভিজ্ঞতা সঞ্চয় করতে সক্ষম এবং প্রতিটি নতুন কাজের সাথে আরও ভালো হয়ে ওঠে। কিন্তু এই আকর্ষণীয় ধারণার পিছনে লুকিয়ে আছে একটি গুরুতর সমস্যা: এই ধরনের সিস্টেম অত্যন্ত অপ্রত্যাশিত। এমনকি একই এজেন্ট বারবার চালু করলে সম্পূর্ণ ভিন্ন ফলাফল দেখাতে পারে, এবং তার শেখার কার্যকারিতা সরাসরি নির্ভর করে কোন ক্রমে কাজগুলো তার সামনে আসে তার উপর।
সাম্প্রতিক একটি গবেষণা, যা «On the Fragility of Self-Improving Agents: Variance, Task Order, and Underspecification» (arXiv: 2608.18066) শীর্ষক কাজে উপস্থাপিত হয়েছে, এই বিষয়টি নিয়ে গভীরভাবে অনুসন্ধান করেছে। লেখকরা টেক্সট-ভিত্তিক মেমরি ব্যাংক ব্যবহারের উপর ভিত্তি করে দুটি জনপ্রিয় পদ্ধতির পুনর্মূল্যায়ন করেছেন। এই ধরনের এজেন্ট সমাধান করা কাজ সম্পর্কে তথ্য সংরক্ষণ করে এবং নতুন অনুরোধ প্রক্রিয়াকরণের সময় সেটিকে বাহ্যিক মেমরি হিসেবে ব্যবহার করে। মনে হয়, প্রক্রিয়াটি সহজ এবং যৌক্তিক, কিন্তু বাস্তবে সবকিছু অনেক বেশি জটিল হয়ে উঠেছে।
স্ব-শেখার লুকানো শব্দদূষণ
গবেষকরা প্রথম যে বিষয়টি আবিষ্কার করেছেন তা হল এই ধরনের এজেন্টদের মূল্যায়নে উচ্চ মাত্রার শব্দদূষণ। জটিল পরিবেশে বহু-ধাপবিশিষ্ট কাজের ক্ষেত্রে, একই এজেন্টের ফলাফল এক রান থেকে আরেক রানে উল্লেখযোগ্যভাবে ওঠানামা করতে পারে। আর স্ব-উন্নতির লুপ যোগ করা এই শব্দদূষণকে শুধু বজায় রাখে না, বরং তা লক্ষণীয়ভাবে বৃদ্ধি করে। ফলাফল একটি প্যারাডক্স: এজেন্ট তার অভিজ্ঞতা থেকে যত বেশি শেখার চেষ্টা করে, তার আচরণ তত কম স্থিতিশীল হয়।
কেন এমন হয়? আংশিকভাবে এর কারণ হল টেক্সট মেমরি ব্যাংক অনির্ধারিতভাবে তথ্য সঞ্চয় করে। প্রতিটি ধাপে এজেন্ট সিদ্ধান্ত নেয় কী সংরক্ষণ করবে এবং কী বাদ দেবে, এবং এই সিদ্ধান্তগুলো অনেকগুলো কারণের উপর নির্ভর করে। ফলে এমনকি অভিন্ন ইনপুট ডেটার ক্ষেত্রেও এজেন্টের অভ্যন্তরীণ অবস্থা ব্যাপকভাবে ভিন্ন হতে পারে, যা বিচ্ছুরণের জন্ম দেয়।
কাজের ক্রম একটি লুকানো শিক্ষার পরিকল্পনা হিসেবে
দ্বিতীয় গুরুত্বপূর্ণ পর্যবেক্ষণটি কাজের ক্রমের প্রভাব সম্পর্কিত। দেখা গেছে, এজেন্টের উন্নতি অনেকাংশে নির্ভর করে কোন ক্রমে সে কাজগুলোর সাথে পরিচিত হয় তার উপর। পূর্ববর্তী গবেষণাগুলিতে, যা স্ব-শিক্ষণকারী এজেন্টদের নিয়ে করা হয়েছিল, প্রায়শই একটি নির্দিষ্ট «ডিফল্ট» ক্রম ব্যবহার করা হতো। গবেষকরা খুঁজে পেয়েছেন যে এই ধরনের ক্রম আসলে একটি অন্তর্নিহিত শিক্ষার পরিকল্পনা তৈরি করে — কাজগুলো সহজ থেকে জটিলের দিকে সাজানো থাকে, যা এজেন্টকে ধীরে ধীরে দক্ষতা বাড়ানোর সুযোগ দেয়।
তবে, কাজগুলো এলোমেলোভাবে মিশ্রিত করলেই শেখার কার্যকারিতা দ্রুত হ্রাস পায়। এর অর্থ হল, অনেক সিস্টেমের ঘোষিত সাফল্য মূলত উপাদানের অনুকূল বিন্যাস দ্বারা পূর্বনির্ধারিত ছিল, এজেন্টের প্রকৃত শেখার ক্ষমতা দ্বারা নয়। মূলত, ডিফল্ট ক্রমটি সাফল্যের একটি লুকানো পূর্বশর্ত হিসেবে কাজ করেছিল — একটি ফ্যাক্টর যা সাধারণত পদ্ধতির বর্ণনায় উল্লেখও করা হতো না।
অসম্পূর্ণ নির্দিষ্টকরণ সমস্যার মূল হিসেবে
লেখকরা একটি অনুমান উপস্থাপন করেছেন যে ভঙ্গুরতার প্রধান কারণ কাজ এবং পরিবেশের অসম্পূর্ণ নির্দিষ্টকরণের (underspecification) মধ্যে নিহিত। যখন একটি কাজের শর্তাবলী যথেষ্ট বিস্তারিতভাবে বর্ণনা করা হয় না, তখন এজেন্টকে অনেক অস্পষ্ট সিদ্ধান্ত নিতে বাধ্য হতে হয়। এটি জ্ঞান সঞ্চয়ের পদ্ধতি এবং পরবর্তীতে তা প্রয়োগের পদ্ধতিতে এলোমেলোতা তৈরি করে।
এই অনুমান যাচাই করার জন্য, গবেষকরা মেমরি নির্মাণের প্রক্রিয়াটিকে আরও নির্দিষ্ট করার চেষ্টা করেছেন। তারা এতে বিস্তারিত মূল্যায়ন রুব্রিক এবং পরিবেশ থেকে প্রতিক্রিয়া যোগ করেছেন — অর্থাৎ সেই তথ্য যা অস্পষ্টতা কমানোর কথা ছিল। ফলাফলটি তাৎপর্যপূর্ণ ছিল: অতিরিক্ত নির্দিষ্টকরণ পরীক্ষাগুলিতে পর্যবেক্ষণ করা কর্মক্ষমতার অবনতিকে কেবল আংশিকভাবে পূরণ করেছে। উল্লেখযোগ্য ব্যবধান রয়ে গেছে, যা ইঙ্গিত দেয় যে অন্যান্য, এখনও চিহ্নিত না হওয়া কারণগুলির অস্তিত্ব রয়েছে যা অস্থিরতায় অবদান রাখে।
অনুশীলনকারীদের জন্য এর অর্থ কী
প্রাপ্ত সিদ্ধান্তগুলির এই ধরনের সিস্টেমগুলির উন্নয়ন এবং পরীক্ষার সাথে সরাসরি সম্পর্ক রয়েছে। প্রথমত, একক রানের ফলাফলে বিশ্বাস করা যায় না। এজেন্টকে বারবার চালানো প্রয়োজন এবং শুধুমাত্র গড় সূচক নয়, বিচ্ছুরণও রিপোর্ট করা উচিত। অন্যথায়, একটি ভাগ্যবান কাকতালীয়তার উপর ভিত্তি করে পদ্ধতির কার্যকারিতা সম্পর্কে সহজেই ভুল সিদ্ধান্ত নেওয়া যেতে পারে।
দ্বিতীয়ত, বিভিন্ন পদ্ধতির তুলনা করার সময় এলোমেলোভাবে মিশ্রিত কাজের ক্রমগুলিতে সেগুলি পরীক্ষা করা আবশ্যক। যদি একটি পদ্ধতি শুধুমাত্র «গ্রিনহাউস» শিক্ষার পরিকল্পনায় কাজ করে, তবে এর ব্যবহারিক মূল্য সন্দেহজনক — বাস্তবে কাজগুলো খুব কমই নিখুঁতভাবে সাজানো ক্রমে আসে।
অবশেষে, অসম্পূর্ণ নির্দিষ্টকরণ — এটি শুধুমাত্র নির্দিষ্ট বেঞ্চমার্কের একটি বৈশিষ্ট্য নয়, বরং অনেক বাস্তব পরিস্থিতির একটি মৌলিক সম্পত্তি। এজেন্টদের এমন পরিস্থিতিতে কাজ করতে হয় যেখানে নিয়মগুলি সম্পূর্ণ পরিষ্কার নয়, এবং এটি সর্বদা অপ্রত্যাশিত ব্যর্থতার ঝুঁকি তৈরি করবে। তাই অ্যালগরিদমগুলির উন্নতির পাশাপাশি ইন্টারফেস এবং প্রক্রিয়াগুলি ডিজাইন করা গুরুত্বপূর্ণ যা মানুষকে এজেন্টের আচরণ কার্যকরভাবে নিয়ন্ত্রণ করতে এবং ত্রুটি গুরুতর হওয়ার আগেই হস্তক্ষেপ করতে দেয়।
উপসংহারের পরিবর্তে
স্ব-শিক্ষণকারী এজেন্টরা অত্যন্ত প্রতিশ্রুতিশীল, তবে এখনও অপরিণত একটি দিক হিসেবে রয়ে গেছে। গবেষণাটি স্পষ্টভাবে প্রদর্শন করে যে তাদের বর্তমান বাস্তবায়ন নির্ভরযোগ্যতা থেকে অনেক দূরে। ফলাফলের বিচ্ছুরণ এবং কাজের ক্রমের উপর নির্ভরশীলতা — এগুলি বিরক্তিকর বাধা নয়, বরং মৌলিক বৈশিষ্ট্য যা মেনে নিতে হবে। কঠোর মূল্যায়ন প্রোটোকল ছাড়া, যার মধ্যে একাধিক রান এবং জটিল পরিবেশে স্ট্রেস-টেস্ট অন্তর্ভুক্ত, আমরা এলোমেলো সাফল্যকে প্রকৃত অগ্রগতি হিসেবে গ্রহণ করার ঝুঁকি নিই। আর এটি সামগ্রিকভাবে AI-সিস্টেমের উপর আস্থার প্রশ্ন।
