সময় চলে গেছে যখন AI-এজেন্টদের শুধুমাত্র চূড়ান্ত ফলাফলের ভিত্তিতে মূল্যায়ন করা হতো। আধুনিক সিস্টেমগুলো পরিবর্তনশীল পরিবেশে ধাপে ধাপে কাজ করে, মধ্যবর্তী কাজ নির্ধারণ করে, প্রতিক্রিয়ায় সাড়া দেয় এবং নিজেদের আচরণ পুনর্বিবেচনা করে। এটি তাদের সাধারণ প্রোগ্রামের চেয়ে জীবন্ত প্রাণীর কাছাকাছি করে তোলে, এবং তাই তাদের পরীক্ষাও ভিন্নভাবে করা প্রয়োজন। ICML 2026-এ প্রকাশের জন্য গৃহীত একটি অবস্থানমূলক নিবন্ধের লেখকরা এই ধরনের সিস্টেমগুলোকে «আচরণগত» বলে অভিহিত করেছেন এবং কাজ শেষ হওয়ার সত্যতার ভিত্তিতে নয়, বরং কর্মের সম্পূর্ণ প্রক্রিয়ার ভিত্তিতে তাদের পরীক্ষা করার প্রস্তাব দিয়েছেন।
ফলাফল বলে না যে এজেন্ট ঠিক কীভাবে কাজ করেছে
যদি মানদণ্ড একটিই হয় — করা হয়েছে বা করা হয়নি — তাহলে মূল্যায়নের সীমানার বাইরে অনেক গুরুত্বপূর্ণ বিবরণ থেকে যায়। উদাহরণস্বরূপ, একটি এজেন্ট একই ট্র্যাজেক্টোরিতে সফলভাবে লক্ষ্যে পৌঁছাতে পারে, কিন্তু সম্পূর্ণ ভিন্ন কারণে: এক ক্ষেত্রে এটি সত্যিই একটি পরিকল্পনা তৈরি করেছিল, এবং অন্য ক্ষেত্রে — শুধুমাত্র প্রশিক্ষণ পর্যায়ে কর্মের ক্রম মুখস্থ করেছিল। চূড়ান্ত ফলাফল একই, কিন্তু ক্ষমতা মূলত ভিন্ন।
AI-এর সাথে অনেক ব্যবহারিক সমস্যা ঠিক এমনই দেখায়। সিস্টেমটি পরীক্ষায় উচ্চ নির্ভুলতা দেখায়, কিন্তু বাস্তবে অবাঞ্ছিত আচরণ প্রদর্শন করে: নিয়মে «ফাঁক» খোঁজে, তুচ্ছ বৈশিষ্ট্যের উপর নির্ভর করে, অথবা শুধুমাত্র এই কারণে ঝুঁকিপূর্ণভাবে কাজ করে যে এভাবে প্রয়োজনীয় মেট্রিক পাওয়া গেছে। ফলাফলের বিশ্লেষণ এ সম্পর্কে নীরব। আচরণের বিশ্লেষণ — উল্টো।
মনোবিজ্ঞানী এবং প্রাণীবিদরা অনেক আগেই একই রকম সমস্যার সম্মুখীন হয়েছেন। যদি একটি প্রশিক্ষিত প্রাণী একটি আদেশ পালন করে, এর অর্থ এই নয় যে এটি আদেশের অর্থ বোঝে; শেখা প্রতিক্রিয়া এবং প্রকৃত আচরণ বাইরে থেকে একই রকম দেখায়। তাদের আলাদা করতে, বিজ্ঞানীরা কৌশল সম্পাদনের সত্যতার দিকে তাকান না — তারা প্রক্রিয়াটি পর্যবেক্ষণ করেন, শর্ত পরিবর্তন করার চেষ্টা করেন, বাধা সৃষ্টি করেন এবং দেখেন সিস্টেমটি কীভাবে প্রতিক্রিয়া জানায়। AI-এজেন্টরাও একই ধরনের পদ্ধতির দাবিদার।
আচরণগত মূল্যায়ন পর্যবেক্ষণ দিয়ে শুরু হয়
প্রস্তাবিত পদ্ধতির মূল ধারণা — AI-এজেন্টকে একটি আচরণগত সিস্টেম হিসেবে বিবেচনা করা। এর অর্থ হল, গবেষক শুধুমাত্র চূড়ান্ত উত্তর যাচাই করেন না, বরং বিভিন্ন পরিস্থিতিতে এজেন্টের পছন্দগুলির পদ্ধতিগত অধ্যয়নও করেন। «এজেন্ট কী করছে?» জিজ্ঞাসা না করে, পর্যবেক্ষণ করা এবং প্রশ্ন করা প্রয়োজন «সে কী কৌশল প্রয়োগ করছে?», «কেন একটি কাজ অন্যটির পরিবর্তে বেছে নেওয়া হয়েছে?», «এজেন্ট এমন একটি নতুন শর্তে কীভাবে প্রতিক্রিয়া জানাবে যা প্রশিক্ষণে ছিল না?»।
এই মডেলে, মূল্যায়ন তিনটি ধাপের একটি চক্রে পরিণত হয়:
- পর্যবেক্ষণ। এজেন্টের সিদ্ধান্তের ক্রম, তার চলাচলের ট্র্যাজেক্টোরি বা পরিবেশের সাথে মিথস্ক্রিয়ার ক্রম নথিভুক্ত করা হয়। শুধুমাত্র সাফল্যের সত্যতা নয়, কর্মের সম্পূর্ণ চিত্র পাওয়া গুরুত্বপূর্ণ।
- বিক্ষোভ (Perturbation)। পরিচিত অবস্থায় পরিবর্তন আনা হয়: ভিন্ন প্রারম্ভিক অবস্থান, এলোমেলো শব্দ, নতুন বস্তু, সময় বা সম্পদের সীমাবদ্ধতা। এই কৌশলটি সিস্টেমকে তার প্রকৃত কৌশল প্রকাশ করতে বাধ্য করে।
- ব্যাখ্যা। প্রাপ্ত তথ্যের ভিত্তিতে, গবেষক একটি অনুমান তৈরি করেন যে কোন প্রক্রিয়া বা হিউরিস্টিক এজেন্টকে নিয়ন্ত্রণ করে। অনুমানটি পরিবেশের নতুন বিক্ষোভের মাধ্যমে যাচাই করা যেতে পারে।
এই পদ্ধতি AI-এর উন্নয়নকে আচরণগত বিজ্ঞানের কাছাকাছি নিয়ে আসে, যেখানে পরিবেশের পরিবর্তনের প্রতিক্রিয়ার মাধ্যমেই অভ্যন্তরীণ প্রক্রিয়া সম্পর্কে বিচার করা হয়।
কীভাবে বোঝা যায় এজেন্টের কর্মের পিছনে কী রয়েছে
প্রতিবেদনের লেখকরা তিনটি নির্দিষ্ট দিক প্রস্তাব করেছেন যা একটি নতুন গবেষণা কর্মসূচির ভিত্তি তৈরি করবে। প্রথমটি — কর্মের ক্রম থেকে সিদ্ধান্ত গ্রহণের কৌশল পুনর্গঠন। যদি এজেন্ট শিখে থাকে, তার কর্মগুলি নির্দিষ্ট অবস্থা নির্বাচনের ফ্রিকোয়েন্সি, ছোট পথের পছন্দ, বিপজ্জনক অঞ্চল এড়ানো ইত্যাদির আকারে «চিহ্ন» রেখে যাবে। এই চিহ্নগুলির মাধ্যমে কৌশলটি পুনর্গঠন করা যেতে পারে, এমনকি যদি অ্যালগরিদম নিজেই লুকানো থাকে।
দ্বিতীয়টি — এমন পরিবেশ ডিজাইন করা যা একটি আচরণকে অন্যটি থেকে আলাদা করতে দেয়। এটি মনোবিজ্ঞানে একটি পরীক্ষা তৈরি করার মতো, যেখানে বিভিন্ন প্রেরণার অংশগ্রহণকারীরা একই উদ্দীপনায় ভিন্ন প্রতিক্রিয়া দেখাবে। উদাহরণস্বরূপ, দুটি সিস্টেম সাধারণ অবস্থায় নেভিগেশন কাজটি সমানভাবে ভালোভাবে সমাধান করতে পারে, কিন্তু মানচিত্র পরিবর্তন করলে একটি সঙ্গে সঙ্গে বিভ্রান্ত হবে, অন্যটি নতুন রুট অন্বেষণ শুরু করবে। যে পরিবেশ এই ধরনের পার্থক্য প্রকাশ করে, সেটিই প্রকৃত আচরণগত পরীক্ষার ক্ষেত্র।
তৃতীয় দিকটি — মাল্টি-এজেন্ট সিস্টেমের অধ্যয়ন, যেখানে শুধুমাত্র পৃথক এজেন্টের আচরণ নয়, মিথস্ক্রিয়ার গতিশীলতাও গুরুত্বপূর্ণ। গোষ্ঠীতে এমন ঘটনা দেখা দেয় যা একক কাজের স্তরে দেখা যায় না: সমন্বয়, প্রতিদ্বন্দ্বিতা বা অপ্রত্যাশিত উদ্ভব (emergence)। যখন দুটি এজেন্ট একে অপরকে প্রভাবিত করতে শুরু করে, তখন উত্তরগুলিকে রেফারেন্সের সাথে তুলনা করার পরিবর্তে আচরণগত পরীক্ষা প্রয়োজন। AI-এর আচরণ সম্পর্কে একটি বিজ্ঞান প্রয়োজন যা বর্ণনা করবে কীভাবে স্থানীয় মিথস্ক্রিয়া থেকে সমষ্টিগত আচরণের উদ্ভব ঘটে।
চূড়ান্ত ফলাফল — সামগ্রিক চিত্রের একটি অংশ মাত্র
«ফলাফল প্রক্রিয়ার চেয়ে গুরুত্বপূর্ণ» পদ্ধতিটি যুক্তিসঙ্গত মনে হয়েছিল যখন সিস্টেমগুলি সহজ ছিল এবং উত্তর থেকে সরাসরি তাদের ক্ষমতা অনুমান করা যেত। কিন্তু আধুনিক এজেন্টরা শেখে, খাপ খাইয়ে নেয় এবং মিথস্ক্রিয়া করে, যার অর্থ তাদের আচরণ জটিল এবং বিপজ্জনক বা অবাঞ্ছিত প্যাটার্ন ধারণ করতে পারে। শুধুমাত্র ফলাফলের ভিত্তিতে মূল্যায়ন এটি লক্ষ্য করে না, যা সংবেদনশীল ক্ষেত্রে AI প্রয়োগের সময় বিশেষভাবে বিপজ্জনক: চিকিৎসা, পরিবহন, অর্থ।
এই কারণেই প্রতিবেদনটি জীববিজ্ঞান এবং মনোবিজ্ঞানের গবেষণাকে মডেল হিসেবে নেওয়ার প্রস্তাব করে। যদি একটি পরীক্ষায় ব্যাঙকে আচরণগত সিস্টেম বলা হয়, তাহলে এটি অধ্যয়নের জন্য পর্যবেক্ষণ এবং হস্তক্ষেপ প্রয়োজন। AI-এজেন্টের ক্ষেত্রেও একই প্রয়োগ করা উচিত একটি আচরণগত সিস্টেম হিসেবে। একই সাথে, এই ধরনের কাজ পদ্ধতিগত হওয়া উচিত: আচরণগত পরীক্ষার মান, সিদ্ধান্ত নথিভুক্ত করার সরঞ্জাম এবং কর্মের বড় ক্রম ব্যাখ্যা করার পদ্ধতি প্রয়োজন। এটি একটি একক কাজ নয়, একটি সম্পূর্ণ কর্মসূচি।
মেট্রিক থেকে বোঝাপড়ায় রূপান্তর
ফলাফল থেকে আচরণে ফোকাস স্থানান্তর — সংখ্যা পরিত্যাগ নয়। চূড়ান্ত ত্রুটি বা নির্ভুলতা এখনও একটি সাধারণ সারসংক্ষেপ হিসেবে দরকারী। কিন্তু দায়িত্বশীল সিস্টেমের জন্য এটি যথেষ্ট নয়। যদি আমরা ভবিষ্যদ্বাণী করতে চাই যে একটি এজেন্ট নতুন পরিস্থিতিতে কীভাবে আচরণ করবে, অপ্রত্যাশিত পরিবর্তনগুলি মোকাবেলা করতে পারবে কিনা এবং নিয়মে কোনো «নোংরা» ফাঁক খুঁজে পাবে কিনা, তাহলে বাস্তব এবং বিশেষভাবে তৈরি করা পরিস্থিতিতে কর্মের দিকে নজর দিতে হবে।
গবেষকদের প্রস্তাবিত রোডম্যাপ — AI-এর আচরণ সম্পর্কে একটি পূর্ণাঙ্গ বিজ্ঞান গঠনের দিকে একটি পদক্ষেপ। চূড়ান্ত লক্ষ্য এই নয় যে এজেন্ট যতবার সম্ভব সঠিক উত্তর দেবে, বরং আমরা বুঝতে পারব সে এটি কীভাবে করে, কখন তার আচরণ সত্যিই বুদ্ধিমান, এবং কখন — এটি কেবল মেট্রিকের সাথে খাপ খাওয়ানো। আচরণের ভিত্তিতে এজেন্টদের মূল্যায়ন প্রাথমিক পর্যায়ে অবাঞ্ছিত কৌশল ধরা পড়তে দেবে এবং এমন সিস্টেম তৈরি করতে সাহায্য করবে যা গতিশীল, ক্রমাগত পরিবর্তনশীল বিশ্বে বিশ্বাসযোগ্য।
