একটি কোডিং এজেন্টের দীর্ঘ কাজ মানে একটি অনুরোধ নয়, বরং ডজনখানেক: মডেল কল, টুল ব্যবহার, ফাইল সম্পাদনা, বারবার টেস্ট চালানো। আর প্রায় প্রতিটি ধাপেই মাথায় আসে: এখনই মডেল বদলে ফেলি না কি?
কেন চলার পথে মডেল বদলানো লাভজনক মনে হয়
হিসাবটা সহজ। শক্তিশালী মডেল প্রতি টোকেনে বেশি খরচ করে, কিন্তু ভালো যুক্তি করে। দুর্বল মডেল সস্তা, কিন্তু জটিল কাজে আটকে যায়। এখান থেকে দুটি স্বাভাবিক কৌশল:
- এস্কালেশন — সস্তা মডেল আটকে গেলে দামি ও শক্তিশালী মডেল চালু করা।
- ডাউনগ্রেড — কঠিন অংশ পেরিয়ে গেলে সস্তা মডেলে ফিরে যাওয়া, যাতে রুটিন কাজে বেশি খরচ না হয়।
কাগজে-কলমে হাইব্রিড পথটা নিখুঁত মনে হয়: দামি মডেলের খরচ শুধু সেখানেই, যেখানে সত্যিই দরকার। কিন্তু এজেন্ট পরের মডেলকে শুধু ফাইল আর রিপোজিটরির অবস্থা নয়, ইতিহাসও হস্তান্তর করে: যুক্তির ধারা, টুলের আউটপুট, ব্যর্থ চেষ্টা, মধ্যবর্তী সিদ্ধান্ত। গ্রহণকারী পক্ষ সেই পথচলা চালিয়ে যায়, যা অন্য একটি মডেল গড়ে তুলেছে — ভিন্ন ধরন, ভিন্ন বিস্তারের মাত্রা, ভিন্ন অভ্যাস নিয়ে। ঠিক এই বিষয়টিই বিশ্লেষণ করেছেন «The Handoff Tax: Continuing Non-Native Trajectories in LLM Agents» প্রিপ্রিন্টের লেখকরা (arXiv:2608.24358, ২৫ আগস্ট ২০২৬)।
পরীক্ষাটি কীভাবে সাজানো
কাজটি মডেলের জোড়ার উপর নির্ভর করে: সস্তা ও কম সক্ষম (নিবন্ধে LC, low cost) বনাম দামি ও বেশি শক্তিশালী (HC, high cost)। জোড়াগুলো নেওয়া হয়েছে দুটি পরিবার থেকে — Claude এবং GPT, অর্থাৎ যাচাই হয়েছে একই ভেন্ডরে নয়, বরং দুটিতে একসাথে, যা সিদ্ধান্তের মূল্য заметно বাড়ায়।
তিনটি জিনিস বদলানো হয়েছিল:
- হস্তান্তরের দিক — উপরে, বেশি শক্তিশালী মডেলের দিকে, এবং নিচে, বেশি দুর্বল মডেলের দিকে।
- দীর্ঘ কাজের ভেতরে বদলের সময়।
- কনটেক্সট হস্তান্তরের ফরম্যাট — যাকে লেখকরা ইন্টারফেস বলেছেন।
শেষ বিষয়টি সবচেয়ে আকর্ষণীয়। তিনটি রূপ তুলনা করা হয়েছিল: পুরো পথচলার সম্পূর্ণ হস্তান্তর, কম্প্যাকশন (ইতিহাসের সংক্ষিপ্ত সারাংশ) এবং পথচলা মুছে ফেলে শুধু রিপোজিটরির অবস্থা সংরক্ষণ। অন্য কথায়, প্রশ্ন ছিল: নতুন মডেলকে কারও কতটা «চিন্তা» দেখানো উচিত?
মূল ফলাফল: হস্তান্তরের উপর কর
সিদ্ধান্তটি বাস্তববোধক। এস্কালেশনের সময় ইতিহাসের সম্পূর্ণ হস্তান্তর দুর্বল ও শক্তিশালী মডেলের মধ্যে মানের ব্যবধানের অর্ধেকেরও কম পূরণ করে — এবং এর সাথে খরচের заметনীয় বাড়তি থাকে। অর্থাৎ আপনি দামি মডেলের হারেই খরচ করেন, কিন্তু তার সুবিধার মাত্র একটি অংশ পান। এই পার্থক্যটিকেই লেখকরা handoff tax — নিয়ন্ত্রণ হস্তান্তরের কর — নাম দিয়েছেন।
আর এটি এক ভেন্ডরের কৃত্রিম সমস্যা নয়: ছবিটি দুটি পরিবারেই পুনরাবৃত্ত হয়েছে। স্বাভাবিক ব্যাখ্যা — শক্তিশালী মডেল কারও গোলকধাঁধা বোঝাতে কনটেক্সট খরচ করে, পূর্বসূরির ভুল ধারণাগুলো আংশিকভাবে গ্রহণ করে এবং পরিষ্কার শুরু নয়, বরং বোঝা নিয়ে শুরু করে। তার সামর্থ্যের একটি অংশ কাজ সমাধানের বদলে «অন্যের ডায়েরি পড়ায়» চলে যায়।
অসমতা: নিচে — হ্যাঁ, উপরে — শর্তসাপেক্ষে
সবচেয়ে কাজের পর্যবেক্ষণ হলো, করটি অসম। বরং ডাউনগ্রেড দাম ও মানের অনুপাতে লাভজনক একটি বিন্দু দিয়েছে: কঠিন যুক্তি শেষ হওয়ার পর সস্তা মডেলে বদলানো কাজ করে।
আরও মজার বিষয় হলো, কনটেক্সট হস্তান্তরের পছন্দের ফরম্যাট দিক অনুযায়ী উল্টো হয়ে যায়:
- এস্কালেশনের সময় দুর্বল মডেলের পথচলার তথ্য সংক্ষিপ্ত করা বেশি সাহায্য করে। কম আবর্জনা — পরিষ্কার শুরু।
- ডাউনগ্রেডের সময় শক্তিশালী মডেলের পথচলা মুছে ফেলা মান কমায়। এখানে ইতিহাস ভরসার মতো কাজ করে, এবং এটি সংরক্ষণ করা উচিত।
ব্যাখ্যাটি এমনই দাঁড়ায়: দুর্বল মডেলের পিছনে ব্যর্থ পথের ছাপ থাকে, যা শক্তিশালী মডেলের শুধু বাধা দেয়। আর শক্তিশালী মডেলের পিছনে থাকে সুচিন্তিত পরিকল্পনা ও সঠিক সিদ্ধান্ত, যা ধরে দুর্বল মডেল রেললাইনের মতো এগোতে পারে। এটি অবশ্য আমার ব্যাখ্যা, নিবন্ধের আক্ষরিক সিদ্ধান্ত নয়, তবে সংখ্যার সাথে ভালোভাবে মেলে।
বাস্তবে কী করা উচিত
ব্যবহারিক সিদ্ধান্তগুলো এমন দাঁড়ায়:
- ইচ্ছার চেয়ে কম বদলান। প্রতিটি বদল বিনামূল্যের কাজ নয়, বরং অজানা দামের একটি লেনদেন।
- «আটকে গেলে» নয়, সীমানায় এস্কালেট করুন। ভালো বিন্দু হলো একটি সম্পূর্ণ চক্র যেখানে স্পষ্ট ব্যর্থতা আছে (যেমন, টেস্ট ধারাবাহিকভাবে ফেল করছে), চিন্তার মাঝখানে নয়।
- উপরে — সংক্ষেপ করুন, নিচে — সংরক্ষণ করুন। শক্তিশালী মডেলকে হস্তান্তরের আগে একটি সংক্ষিপ্ত সারাংশ তৈরি করুন: কী করা হয়েছে, কী কাজ করেনি, কী কী সীমাবদ্ধতা আছে। চেষ্টার পুরো প্রতিলিপি রেখে দেওয়া উচিত নয়।
- নিচে উদারভাবে দেওয়া যায়। দুর্বল মডেলের জন্য শক্তিশালী মডেলের রেখে যাওয়া পরিকল্পনা ও সম্পাদনা দেখা উপকারী।
- নিজের কর হিসাব করুন। এস্কালেশনের সময় «সম্পূর্ণ ইতিহাস» ও «কম্প্যাকশনের» মধ্যে পার্থক্য একটি প্রস্তুত A/B-টেস্ট, যা নিজের কাজে চালানো উচিত: এটি সস্তা এবং দ্রুত দেখায়, আপনি কর দিচ্ছেন কি না।
আলাদা একটি ভাবনা: কখনও কখনও মাঝপথে মডেল না বদলানোই সস্তা। যদি শক্তিশালী মডেল শুধু পরিকল্পনার জন্য দরকার হয়, তবে আগেই ভূমিকা ভাগ করা বেশি যুক্তিসঙ্গত — পরিকল্পনা শক্তিশালীর, বাস্তবায়ন দুর্বলের — একই পথচলার ভেতরে নিয়ন্ত্রণ হস্তান্তর সাজানোর চেয়ে।
সারসংক্ষেপ
কাজের মাঝখানে মডেল বদলানো বাজেট অপ্টিমাইজেশনের বিনামূল্যের হাতিয়ার নয়, বরং নিজস্ব দাম আছে এমন একটি কাজ। অন্যের পথচলা হস্তান্তর সেই সুবিধার একটি অংশ খেয়ে ফেলে, যার জন্য আপনি খরচ করেন। এই অর্থে এস্কালেশন যতটা মনে হয় তার চেয়ে ঝুঁকিপূর্ণ; ডাউনগ্রেড বরং পূর্বানুমেয়ভাবে কাজ করে। আর মূল ব্যবহারিক কৌশলটি মডেল বাছাইয়ে নয়, বরং আপনি সেই মডেলকে ঠিক কী দেখাচ্ছেন তা বাছাইয়ে। ফলাফলগুলো কোডিং এজেন্ট ও নির্দিষ্ট মডেল জোড়ার উপর পাওয়া, তাই এগুলো সব পরিস্থিতিতে হুবহু প্রয়োগ করা উচিত নয় — তবে নিজের পরিমাপের জন্য একটি কার্যকর অনুমান হিসেবে এগুলো বেশ উপযুক্ত।
