প্রম্পটের ওপর নির্ভরতা ছাড়া এজেন্ট নীতিমালা যাচাই: এক্সিকিউটেবল পরিবেশ, টেস্ট স্যুট এবং প্রশিক্ষণযোগ্য ফিল্টার

20 নভেম্বর 2026০ প্রদর্শন

এই কাজটি এমন একটি ফ্রেমওয়ার্ক প্রস্তাব করে, যা এক্সিকিউশন এনভায়রনমেন্টকে এজেন্ট পলিসি পরীক্ষা করার জন্য বিভিন্ন পরিস্থিতির সেটে রূপান্তরিত করে এবং প্রতিরক্ষামূলক উপাদানটিকে ধাপে ধাপে উন্নত করতে সাহায্য করে। প্রশিক্ষিত ফিল্টারটি শুধু প্রম্পটের নির্দেশনার ওপর নির্ভর করার তুলনায় সফল নিয়মভঙ্গের হার ৪০–৪৪% কমায় এবং নিরাপদ অনুরোধ ভুলভাবে প্রত্যাখ্যান করার প্রবণতাও কম।

প্রম্পটের ওপর নির্ভরতা ছাড়া এজেন্ট নীতিমালা যাচাই: এক্সিকিউটেবল পরিবেশ, টেস্ট স্যুট এবং প্রশিক্ষণযোগ্য ফিল্টার

প্রম্পটের সীমা: নির্দেশনাই যথেষ্ট নয়

এজেন্টের কাস্টম ডিপ্লয়মেন্টে নীতিমালা টুল, রিসোর্স এবং সম্পাদনের শর্তের নিয়ম নির্ধারণ করে। প্রম্পটে এই নিয়মগুলো যুক্ত করলেই লঙ্ঘন নির্ভরযোগ্যভাবে ঠেকানো যায় না। প্রম্পট শুধু লেখা নির্ধারণ করে, বাস্তবে কোন কল করা হচ্ছে তা যাচাই করে না। সব ক্ষেত্রেই লঙ্ঘনের জন্য অনুমোদিত টুল ব্যবহার করা হয়। তাই শুধু টুলের নাম নয়, আর্গুমেন্ট, রিসোর্স এবং প্রেক্ষাপট যাচাই করা দরকার।

প্রতিরক্ষামূলক ব্যবস্থা প্রশিক্ষণের জন্য নীতিমালা মেনে চলে এমন এবং তা লঙ্ঘন করে এমন কলের উদাহরণ দরকার। এমন জোড়া উদাহরণ না থাকলে যাচাই পর্যবেক্ষণযোগ্য আচরণের বদলে নিয়মের লেখার ওপর নির্ভর করে।

ব্যবহারিক মানদণ্ড: প্রম্পটকে শুধু নিয়মের বাহক হিসেবে বিবেচনা করুন। কল এবং সেগুলোর ফলাফলের ডেটার ভিত্তিতে যাচাই গড়ে তুলুন।

এক্সিকিউশন এনভায়রনমেন্ট: বাস্তব কল যাচাই

AgentPolicyForge নীতিমালার রেফারেন্স টেস্ট তৈরি এবং প্রতিরক্ষামূলক ব্যবস্থা ধাপে ধাপে প্রশিক্ষণের জন্য এক্সিকিউশন এনভায়রনমেন্ট ব্যবহার করে। এনভায়রনমেন্টে টুল কল সম্পাদিত হয় এবং ফলাফল নথিভুক্ত করা হয়। ফলাফলের ভিত্তিতে নীতিমালা মেনে চলা হয়েছে কি না নির্ধারণ করা হয়। এটি প্রম্পট পড়ার থেকে আলাদা: যাচাই হয় বাস্তব সম্পাদনের ভিত্তিতে।

যাচাইয়ের মূল উপাদানগুলো:

  • এনভায়রনমেন্টে কল সম্পাদন;
  • কলের ফলাফল নথিভুক্ত করা;
  • আর্গুমেন্ট, রিসোর্স এবং প্রেক্ষাপটের সঙ্গে নীতিমালার মিল যাচাই;
  • লঙ্ঘনকারী উদাহরণে অনুমোদিত টুল ব্যবহার।

উপসংহার: রেফারেন্স টেস্ট অবশ্যই সম্পাদনযোগ্য হতে হবে। এনভায়রনমেন্ট বেছে নেওয়ার মানদণ্ড হলো ফলাফল সংরক্ষণ এবং আর্গুমেন্ট, রিসোর্স ও প্রেক্ষাপট যাচাইয়ের সক্ষমতা।

PolicyGym: প্রশিক্ষণ পরিস্থিতি ও সংরক্ষিত টেস্ট

এই ফ্রেমওয়ার্কের ভিত্তিতে তৈরি PolicyGym হলো দশটি নীতিমালা-পরিবারের একটি ডেটাসেট। প্রশিক্ষণ ডেটা তৈরি করার জন্য এতে 698টি পরিস্থিতি রয়েছে। এ ছাড়া, টেস্ট সেটের জন্য আলাদাভাবে 254টি সংরক্ষিত পরিস্থিতি রয়েছে।

ডেটাসেটের অংশউদ্দেশ্যপরিমাণ
প্রশিক্ষণ ডেটা তৈরির পরিস্থিতিপ্রশিক্ষণের উদাহরণ তৈরি698
সংরক্ষিত পরিস্থিতিটেস্ট সেট254

সংরক্ষিত পরিস্থিতিগুলো মানুষ যাচাই করেছেন। ব্যবহারিক মানদণ্ড: প্রশিক্ষণের পরিস্থিতি ও সংরক্ষিত পরিস্থিতি আলাদা রাখুন। টেস্ট সেটটি প্রশিক্ষণ ডেটা তৈরির প্রক্রিয়া থেকে আলাদা হওয়া উচিত।

প্রশিক্ষিত ফিল্টার বনাম এজেন্টের স্ব-নিয়ন্ত্রণ

PolicyGym-এ দুটি পদ্ধতির তুলনা করা হয়েছে: নীতিমালা-সচেতন এজেন্টের স্ব-নিয়ন্ত্রণ এবং প্রশিক্ষিত প্রতিরক্ষামূলক ব্যবস্থা। প্রতিরক্ষামূলক ব্যবস্থাসহ চূড়ান্ত কনফিগারেশনে সফল আক্রমণের হার তুলনামূলকভাবে 40–44% কমে। শুধু প্রম্পটে নীতিমালা প্রয়োগের তুলনায় এতে নিরীহ অনুরোধ ভুল করে প্রত্যাখ্যান করার ঘটনাও কম ঘটে।

কনফিগারেশনকী ব্যবহার করা হয়ফলাফলের পরিসংখ্যান
শুধু প্রম্পটে নীতিমালানীতিমালার লেখাতুলনার ভিত্তি
প্রতিরক্ষামূলক ব্যবস্থাসহ চূড়ান্ত কনফিগারেশনপ্রশিক্ষিত ফিল্টারসফল আক্রমণ 40–44% কম; ভুল প্রত্যাখ্যান কম

ব্যবহারিক মানদণ্ড: প্রতিরক্ষামূলক ব্যবস্থার সঙ্গে প্রম্পট-ভিত্তিক বেসলাইন তুলনা করুন। একই সঙ্গে সফল আক্রমণ এবং ভুল প্রত্যাখ্যান—দুটিই দেখুন।

ধাপে ধাপে চক্র: আক্রমণ, ফাইন-টিউনিং, আর্কাইভ আপডেট

উদাহরণ তৈরির প্রক্রিয়াটি প্রতিরক্ষামূলক ব্যবস্থার ধাপে ধাপে প্রশিক্ষণে সহায়তা করে। আক্রমণকারী নিষ্কাশিত কৌশল ব্যবহার করে অনুরোধ তৈরি করে। এনভায়রনমেন্টে যাচাই করা ভারসাম্যপূর্ণ উদাহরণের ওপর প্রতিরক্ষামূলক ব্যবস্থাকে ফাইন-টিউন করা হয়। আর্কাইভ অপরিবর্তিত থাকলেও প্রশিক্ষণে নীতিমালা প্রয়োগের কার্যকারিতা বাড়ে।

আর্কাইভ আপডেট করলে অতিরিক্ত সুবিধা পাওয়া যায়। আর্কাইভ অপরিবর্তিত রাখার তুলনায় এতে ডোমেইনের ভেতরে আক্রমণের সফলতার হার কমে।

চক্রের ধাপগুলো:

  1. আক্রমণের কৌশল বের করুন।
  2. আক্রমণকারীর অনুরোধ তৈরি করুন।
  3. এক্সিকিউশন এনভায়রনমেন্টে উদাহরণ যাচাই করুন।
  4. উদাহরণগুলো ভারসাম্যপূর্ণ করুন এবং প্রতিরক্ষামূলক ব্যবস্থাকে ফাইন-টিউন করুন।
  5. আক্রমণের আর্কাইভ আপডেট করুন।

ব্যবহারিক মানদণ্ড: আর্কাইভ আপডেটের চক্র এবং এনভায়রনমেন্টে উদাহরণ যাচাইয়ের ব্যবস্থা রাখুন। আর্কাইভ অপরিবর্তিত থাকলেও প্রশিক্ষণে প্রভাব পড়ে। আপডেট করলে ডোমেইনের ভেতরে আক্রমণের সফলতার হার আরও কমে।

সাধারণ প্রশ্নোত্তর

বিভিন্ন উপাদান

সব উপাদান
PerMIT: LLM এজেন্টদের দীর্ঘমেয়াদি স্মৃতির অখণ্ডতা এবং মেশিন যাচাইসহ সমষ্টিগত আস্থা
সংবাদ

PerMIT: LLM এজেন্টদের দীর্ঘমেয়াদি স্মৃতির অখণ্ডতা এবং মেশিন যাচাইসহ সমষ্টিগত আস্থা

লেখকেরা PerMIT আর্কিটেকচার প্রস্তাব করেছেন, যা একটি সসীম মেমরি ইন্টারফেসের মাধ্যমে পরিবেশের অবিশ্বস্ত ডেটা এজেন্টের সংবেদনশীল কার্যক্রমে প্রবেশ করা সীমিত করে; Lean 4-এ যাচাইকৃত দুটি উপপাদ্য এবং সম্প্রদায়ের রায় জমা হওয়ার প্রক্রিয়া পৃথক ব্যবহারকারীর ওপর চাপ না বাড়িয়েই বিষপ্রয়োগের ঝুঁকি কমায়। Trojan Hippo এবং τ²-bench-এ পরীক্ষায়, হালকা ভেরিফায়ার ব্যবহার করে এই পদ্ধতিতে কোনো সফল ইনজেকশন শনাক্ত হয়নি এবং বিলম্বিত কাজগুলোতে নতুন এজেন্টদের ফলাফল উন্নত হয়েছে।

20 নভেম্বর 2026
মাথা ও ঘাড়ের টিউমারের প্রোটন পরিকল্পনার জন্য প্রমাণভিত্তিক ফিডব্যাক লুপসহ সমন্বিত মাল্টি-এজেন্ট AI সিস্টেম
সংবাদ

মাথা ও ঘাড়ের টিউমারের প্রোটন পরিকল্পনার জন্য প্রমাণভিত্তিক ফিডব্যাক লুপসহ সমন্বিত মাল্টি-এজেন্ট AI সিস্টেম

কাজটিতে প্রশিক্ষিত PPO পলিসির সমন্বয় বর্ণনা করা হয়েছে, যা পরিকল্পনার একাধিক বিকল্প দেয়, এবং LLM এজেন্টদের, যারা ক্লিনিক্যাল মেট্রিক ও সীমাবদ্ধতা যাচাই করে কথোপকথনের মাধ্যমে স্পষ্টীকরণ করে; ২১ জন রোগীর তথ্যের ভিত্তিতে, ফাইন-টিউন করা Qwen3-14B নির্দেশনা আরও ভালোভাবে অনুসরণ করেছে এবং অগ্রাধিকারপ্রাপ্ত লক্ষ্যগুলোর পক্ষে সমঝোতাকে এগিয়ে নিতে সাহায্য করেছে। ব্যবহারিক উপসংহার হলো—প্রতিদ্বন্দ্বী সীমাবদ্ধতাগুলোর ওপর নিয়ন্ত্রণ বজায় রেখেই স্বয়ংক্রিয় DRL পরিকল্পনাকে পরিচালিত কথোপকথনের মাধ্যমে আরও সমৃদ্ধ করা যায়।

20 নভেম্বর 2026
অভিজ্ঞতাভিত্তিক পরীক্ষা-নিরীক্ষার বদলে গণনাভিত্তিক বাছাই: ব্যাটারির উপকরণ নিয়ে নতুন পদ্ধতি
গবেষণা

অভিজ্ঞতাভিত্তিক পরীক্ষা-নিরীক্ষার বদলে গণনাভিত্তিক বাছাই: ব্যাটারির উপকরণ নিয়ে নতুন পদ্ধতি

এই উপাদানটি দেখায়, কীভাবে গণনামূলক ডেটাবেস, মেশিন লার্নিং এবং জেনারেটিভ মডেল সম্ভাবনাময় সংমিশ্রণের পরিসর সংকুচিত করে, আর স্বয়ংক্রিয় পরীক্ষাগারগুলো সেগুলোর যাচাই দ্রুত করে; তবে চূড়ান্ত ফল সংশ্লেষণ ও পরীক্ষার ওপর নির্ভর করে, যেখানে পূর্বাভাস বাস্তব পরিবাহিতা থেকে ভিন্ন হতে পারে।

20 নভেম্বর 2026