লক্ষ লক্ষ কথোপকথনের জন্য সাপোর্ট আর্কিটেকচার: তথ্য পুনরুদ্ধার, কার্যসম্পাদন ও জেনারেশনকে পৃথক করা

26 সেপ্টেম্বর 2026২৩ প্রদর্শন

আবাসন বুকিং পরিষেবার উদাহরণে লেখকেরা একক মডেল থেকে সীমিত ধরনের অপারেশনের অর্কেস্ট্রেটর এবং যাচাইকৃত প্রেক্ষাপটের ওপর নির্ভরশীল জেনারেটরে রূপান্তরটি বিশ্লেষণ করেন; স্থাপত্যগত পরিবর্তনের প্রভাবগুলো আনুষঙ্গিক পরিবর্তন থেকে আলাদাভাবে মূল্যায়ন করা হয়। পুনরায় চালানো সংলাপগুলোতে সঠিক বুকিং বেছে নেওয়ার হার বেড়েছে, কাঠামোবদ্ধ কাজের ত্রুটি দূর হয়েছে এবং এসকেলেশন কমেছে; অপ্টিমাইজেশনে মডেল পরিচালনার বিলম্ব ও খরচও কমেছে, তবে প্রোডাকশনে অপারেটরদের কাছে পাঠানো সংলাপের পরিমাণে উল্লেখযোগ্য পরিবর্তন আসেনি।

লক্ষ লক্ষ কথোপকথনের জন্য সাপোর্ট আর্কিটেকচার: তথ্য পুনরুদ্ধার, কার্যসম্পাদন ও জেনারেশনকে পৃথক করা

স্কেল ও মূল্যায়নের সীমা

একটি বড় আবাসন মার্কেটপ্লেসের সাপোর্ট সিস্টেম প্রতি মাসে লক্ষ লক্ষ কথোপকথন প্রক্রিয়াকরণ করে। এটি ১১টি ভাষায় কাজ করে, এবং উল্লেখিত P90 হলো ১০ সেকেন্ড। এই সূচকগুলো সিস্টেমের স্কেল বর্ণনা করে, তবে কোনো নির্দিষ্ট স্থাপত্যগত সিদ্ধান্তের প্রভাব দেখায় না।

প্যারামিটারমান
পরিমাণপ্রতি মাসে লক্ষ লক্ষ কথোপকথন
ভাষা১১
P90১০ সেকেন্ড

মাইগ্রেশনের সময় prompts, alignment এবং serving-ও পরিবর্তিত হয়েছে। তাই লেখকেরা কেবল একইভাবে পুনরায় চালানো কথোপকথনে মাপা প্রভাবগুলোকে স্থাপত্যের ফল হিসেবে গণ্য করেন।

মূল্যায়নের মানদণ্ড: মাইগ্রেশনের পর হওয়া সব পরিবর্তনের কৃতিত্ব স্থাপত্যকে না দিয়ে, অভিন্ন ইনপুট কথোপকথনে স্থাপত্যগুলোর তুলনা করা।

সার্চ, অ্যাকশন ও জেনারেশন কীভাবে ভাগ করা হয়েছে

Dynamic Response (DR) মিশ্র প্রতিক্রিয়াদাতা Qwen3-235B-A22B-এর পরিবর্তে টাইপযুক্ত টুল এবং ছোট জেনারেটরসহ একটি সীমাবদ্ধ ReAct অর্কেস্ট্রেটর ব্যবহার করে। জেনারেটর backend সিস্টেম দ্বারা যাচাইকৃত কনটেক্সট কন্ট্র্যাক্টের ভিত্তিতে উত্তর তৈরি করে।

সিস্টেমের অংশভূমিকা
সার্চটাইপযুক্ত সত্তা নির্বাচন, যার মধ্যে বুকিং নির্বাচনও রয়েছে
অ্যাকশনটাইপযুক্ত অ্যাকশন আইডি এবং মালিকানা যাচাই
জেনারেশনbackend সিস্টেম দ্বারা যাচাইকৃত কনটেক্সট কন্ট্র্যাক্টের ভিত্তিতে উত্তর
অর্কেস্ট্রেশনটাইপযুক্ত টুলের ওপর নির্মিত সীমাবদ্ধ ReAct অর্কেস্ট্রেটর

এই বিভাজন সত্তা ও অ্যাকশন নির্বাচনকে উত্তর প্রণয়ন থেকে আলাদা করে। নির্বাচনের মানদণ্ড: যাচাইযোগ্য অপারেশন দরকার হলে, শুধু একটি একক উত্তর-জেনারেটর নয়, এই স্থাপত্য উপযুক্ত।

সত্তা ও অ্যাকশন নির্বাচন কীভাবে বদলেছে

টাইপযুক্ত সত্তা নির্বাচন বুকিং সিলেক্টরকে নির্ভুলতাকে অগ্রাধিকার দেওয়ার দিকে সরিয়ে নিয়েছে। নির্ভুলতা বেড়েছে, আর রিকল কমেছে। টাইপযুক্ত ID-এর মালিকানা যাচাই কাঠামোবদ্ধ অ্যাকশনে পর্যবেক্ষিত ত্রুটিগুলো দূর করেছে।

মেট্রিকআগেপরে
বুকিং নির্বাচনের নির্ভুলতা8,3%89,1%
বুকিং নির্বাচনের রিকল75,2%67,3%
পর্যবেক্ষিত কাঠামোবদ্ধ অ্যাকশনের হ্যালুসিনেশন2,14%0,0%

ফলাফলগুলো নির্বাচনের নির্ভুলতা ও রিকলের মধ্যে আপসটি দেখায়। নির্বাচনের মানদণ্ড: আগের রিকল বজায় রাখার চেয়ে ভুল নির্বাচন এড়ানো বেশি গুরুত্বপূর্ণ হলে এই পদ্ধতি উপযুক্ত।

এস্কেলেশন ও স্ব-পরিষেবা কীভাবে মূল্যায়ন করবেন

নিম্নস্তরের A/B পরীক্ষা replay-তে এস্কেলেশন কমার বিষয়টি পুনরুৎপাদন করেছে। তবে production-এ অপারেটরের কাছে হস্তান্তরের পরিমাণ মোটামুটি স্থিতিশীল ছিল।

সূচকআগেপরে
কঠোর এস্কেলেশনসহ উত্তর5,60%3,08%
নরম এস্কেলেশনসহ উত্তর9,56%2,49%
Self-solve—ঊর্ধ্বমুখী প্রবণতা: +5,1 পি. পি.; 95% CI: −2 থেকে +12

এস্কেলেশন কমলেও অপারেটরের কাছে হস্তান্তরের পরিমাণে সমপরিমাণ হ্রাস ঘটেনি। Self-solve-কে লেখকেরা স্পষ্টভাবে প্রতিষ্ঠিত বৃদ্ধি হিসেবে নয়, বরং ঊর্ধ্বমুখী প্রবণতাসম্পন্ন ফল হিসেবে বর্ণনা করেছেন।

মূল্যায়নের মানদণ্ড: এস্কেলেশনসহ উত্তর, অপারেটরের কাছে প্রকৃত হস্তান্তর এবং self-solve আলাদাভাবে পর্যবেক্ষণ করুন।

Serving অপ্টিমাইজেশন থেকে কী পাওয়া গেছে

Serving অপ্টিমাইজেশনের ফলে অর্কেস্ট্রেটরের P90 বিলম্ব 3,87 থেকে 2,24 সেকেন্ডে নেমেছে। একই সঙ্গে GPU footprint প্রায় এক-তৃতীয়াংশ কমেছে।

সূচকপরিবর্তন
অর্কেস্ট্রেটরের P90 বিলম্ব3,87 → 2,24 সেকেন্ড
GPU footprintপ্রায় এক-তৃতীয়াংশ হ্রাস
self-hosting-এ মডেল serving-এর আনুমানিক বার্ষিক খরচএক অর্ডারেরও বেশি হ্রাস

এই সূচকগুলো serving-এর সঙ্গে সম্পর্কিত, সত্তা বা অ্যাকশন নির্বাচনের গুণমানের সঙ্গে নয়। মূল্যায়নের মানদণ্ড: উত্তর-সংক্রান্ত মেট্রিক থেকে আলাদা করে বিলম্ব, কম্পিউটিং footprint এবং serving-এর খরচ বিবেচনা করুন।

সাধারণ প্রশ্নোত্তর

বিভিন্ন উপাদান

সব উপাদান
RL সিমুলেটরের ব্যর্থতা নির্ণয়ে ক্যানোনিক্যাল বহুপদী ইনভেরিয়েন্ট: এগুলো আসলে কোথায় কাজে লাগে
সংবাদ

RL সিমুলেটরের ব্যর্থতা নির্ণয়ে ক্যানোনিক্যাল বহুপদী ইনভেরিয়েন্ট: এগুলো আসলে কোথায় কাজে লাগে

এই কাজটি পরীক্ষা করে, প্রশিক্ষণযোগ্য গতিবিদ্যার মডেলগুলোতে পদার্থবিজ্ঞানের সূত্র অন্তর্ভুক্ত করা কতটা যুক্তিযুক্ত: ট্র্যাজেক্টরি থেকে আহরিত এবং গ্রোবনার ভিত্তির মাধ্যমে ক্যানোনিকাল রূপে আনা ইনভারিয়ান্টগুলো পূর্বাভাসে সামান্য উন্নতি আনে, তবে রোগনির্ণয়ে কার্যকর—এগুলো লঙ্ঘিত সীমাবদ্ধতাটি কোথায় ঘটেছে তা নির্দিষ্ট করতে এবং নির্দিষ্ট ভুল প্যারামিটার শনাক্ত করতে সাহায্য করে।

10 নভেম্বর 2026
AURA-Eval: কীভাবে যাচাই করবেন যে LLM এজেন্ট ঝুঁকি শনাক্ত করেছে এবং পরবর্তী পদক্ষেপ পরিবর্তন করেছে
সংবাদ

AURA-Eval: কীভাবে যাচাই করবেন যে LLM এজেন্ট ঝুঁকি শনাক্ত করেছে এবং পরবর্তী পদক্ষেপ পরিবর্তন করেছে

এই ফ্রেমওয়ার্ক LLM এজেন্টদের আচরণকে চূড়ান্ত রায় দিয়ে নয়, বরং গুরুত্বপূর্ণ মুহূর্তে ঝুঁকির প্রতিক্রিয়া দিয়ে মূল্যায়ন করে: টুল কলের ধারা মাঝপথে থামিয়ে দেওয়া হয়, এরপর মডেলকে তার যুক্তি ও কাজ চালিয়ে যেতে হয়; আর LLM বিচারকদের একটি প্যানেল ঝুঁকি শনাক্তকরণ, পদক্ষেপের ধরন ও নিরাপত্তা বিশ্লেষণ করে। R-Judge-এর 157টি ট্র্যাজেক্টরি থেকে সংগৃহীত 1249টি কাজে, 20টি মডেলের নিরাপদ পথ না থাকলে অনিরাপদ পদক্ষেপ নেওয়ার প্রবণতা বেড়ে যায়; আর কাজ সম্পন্ন হওয়ার আগে তদারকি তুলে নিলে শুরুতে নিরাপদ থাকা ঘটনাগুলোর 52,3% অনিরাপদ হয়ে ওঠে।

10 নভেম্বর 2026
চের্ন–সাইমনস রিজার্ভারের স্মৃতি: সংযোগের স্বায়ত্তশাসিত গতিবিদ্যা এবং ঘনত্ব পরিবহন
সংবাদ

চের্ন–সাইমনস রিজার্ভারের স্মৃতি: সংযোগের স্বায়ত্তশাসিত গতিবিদ্যা এবং ঘনত্ব পরিবহন

এই নিবন্ধে আলোচনা করা হয়েছে, কীভাবে একটি রিজার্ভয়ার ইনপুট সিগন্যালের ইতিহাস একই সঙ্গে ঘনত্বের বণ্টন এবং জ্যামিতিক স্বাধীনতার মাত্রায় সংরক্ষণ করে। চারটি প্রক্রিয়ার তুলনা দেখায় যে কারেন্ট একটি স্বতন্ত্র সংযুক্তি উপাদান তৈরি করে, যা ঘনত্বের পরবর্তী প্রতিক্রিয়া পরিবর্তন করে; আর পরিমাপ করা সব বৈশিষ্ট্য বিবেচনায় নিলে ইমপালসের ক্রম ডিকোড করার ক্ষেত্রে সামান্য উন্নতি হয়।

10 নভেম্বর 2026
লক্ষ লক্ষ কথোপকথনের জন্য সাপোর্ট আর্কিটেকচার: তথ্য পুনরুদ্ধার, কার্যসম্পাদন ও জেনারেশনকে পৃথক করা