সিমুলেটরগুলো বাস্তব সিস্টেমের সঙ্গে তাল মেলাতে পারছে না
বড় ভাষা মডেল চালানোর জন্য সত্যিকারের ক্লাস্টার দাঁড় করানো — ব্যয়বহুল, আর অনেক সময় একেবারেই অসম্ভব: হার্ডওয়্যার নেই, বাজেট নেই, অপেক্ষা করার সময় নেই। তাই গবেষকদের কাছে সিস্টেম মডেলিং বহুদিন ধরেই একটি কাজের হাতিয়ার হয়ে উঠেছে: আগে সিমুলেটরে হিসাব করো, পরে হার্ডওয়্যারে যাও।
সমস্যা হলো, ক্ষেত্রটি নিজেই সিমুলেটর তৈরির গতির চেয়ে দ্রুত এগিয়ে চলেছে। নতুন ওয়ার্কলোড — এজেন্টিক পরিস্থিতি, যেখানে মডেল টুল ডাকে ও লুপে কাজ করে, prefill ও decode-এর আলাদা ফেজযুক্ত স্কিম — আর বিদ্যমান সিমুলেটরগুলোতে গাঁথা মনোলিথিক পাইপলাইনে আঁটছে না। যেকোনো নতুন মেকানিজম কোরের বেদনাদায়ক পুনর্নির্মাণের মধ্য দিয়ে পাশ থেকে জোড়া দিতে হয়। ফলে প্রোডাকশনে সত্যিকার অর্থে যা চলছে আর সিমুলেটর যা পুনরুৎপাদন করতে পারে, তার মধ্যে ফারাক শুধু বাড়তেই থাকে।
ধারণা: এমন সিমুলেটর, যা নিজেকে নিজেই গড়ে তোলে
এই সমস্যার সমাধানে হাত দিয়েছে একদল গবেষক — Wonung Kim, Hyunmin Choi, Minsu Kim, Jaehong Cho, Yeongwook Kim এবং Jongse Park। তাঁদের প্রিপ্রিন্ট arXiv:2608.24650 (cs.AR, cs.AI)-এর নাম «Simthesizer: An Agent-Driven Simulation Framework for LLM Serving Systems»।
এখানে চিন্তার মূল মোড় হলো এই: আজকের নির্দিষ্ট কিছু মেকানিজমের জন্য আরেকটি সিমুলেটর লিখতে হবে না — বের হওয়ার আগেই সেটি পুরনো হয়ে যাবে। Simthesizer-কে এমনভাবে গড়তে হবে যাতে নতুন চাহিদা আসার সঙ্গে সঙ্গে সে নিজেকে নিজেই বাড়িয়ে নিতে পারে। আর তা করতে হবে এমন এক প্রোগ্রামারের হাতে, যে মাসভর অন্যের কোড পড়ে, নয় — বরং এমন এক এজেন্টের হাতে, যে স্বাভাবিক ভাষায় সমস্যাটি বোঝে এবং সিমুলেটরের ভেতরে তা নিয়ে কাজ করতে পারে।
আলাদা আলাদা মডিউলের বদলে একটি ডাইনামিক গ্রাফ
ধারণাটির কারিগরি ভিত্তি হলো কম্পোজেবল অবকাঠামো। Simthesizer-এ পুরো সার্ভিং ওয়ার্কফ্লো একইভাবে প্রকাশ করা হয়: শুধু গণনাই নয়, সেই প্রক্রিয়াকে সমন্বয় করা নিয়ন্ত্রণমূলক সিদ্ধান্তও — অর্থাৎ প্ল্যানার, প্রসেসিংয়ের ক্রম, রিসোর্স বণ্টন। এসবই বর্ণনা করা হয় একটি ডাইনামিক গ্রাফ হিসেবে, যা সিমুলেশনের ধারাবাহিকতায় বদলে যায়।
ব্যবহারিক লাভটা স্পষ্ট: যখন নতুন ফাংশনালিটি সাবসিস্টেমগুলোর মধ্যে কঠোরভাবে গাঁথা জোড়ার সঙ্গে জোড়া দিতে হয় না, বরং সামগ্রিক চিত্রে একটি নোড যোগ করলেই হয়, তখন সম্প্রসারণের খরচ কয়েক গুণ কমে যায়। এখানেই আগে «ইনভেসিভ পুনর্নির্মাণ» দেখা দিত — পুরো লজিক কোডজুড়ে ছড়িয়ে থাকত, আর যেকোনো নতুন মেকানিজম সিমুলেটরের অর্ধেকটাকে ছুঁয়ে ফেলত।
এজেন্ট-সিন্থেসাইজার: কোড ফোর্ক নয়, কথায় অনুরোধ
দ্বিতীয় উপাদান — Synthesizer agent, যাকে লেখকেরা বর্ণনা করেছেন «harnessed coding agent» বা লাগাম-পরানো কোডিং এজেন্ট হিসেবে। এর কাজ হলো প্রয়োজনীয় ফাংশন নিয়ে সাধারণ মানুষের ভাষায় করা অনুরোধকে সিমুলেটরের ভেতরের সেই বিমূর্ত উপস্থাপনায় অনুবাদ করা।
এখানে মূল শব্দটি হলো «লাগাম-পরানো»। এজেন্ট যা খুশি তাই লেখে না: সে নির্দিষ্ট সিমুলেটরের জন্য প্রযোজ্য সীমাবদ্ধতার মধ্যে কাজ করে, আর তার ফলাফল মডেলিংয়ের নির্ভুলতা যাচাই (fidelity validation) পেরোতে হয়। এই ধাপটি ছাড়া পুরো উদ্যোগটি বিশ্বাসযোগ্য কিন্তু ভুল কোড তৈরির যন্ত্রে পরিণত হতো। আরেকটি গুরুত্বপূর্ণ দিক: এজেন্ট একটি অভিন্ন সিমুলেটরই বাড়িয়ে তোলে, প্রতিটি ফিচারের জন্য নতুন একটি বানায় না — নইলে আমরা একই অসমঞ্জস ফোর্কের চিড়িয়াখানাই পেতাম, শুধু স্বয়ংক্রিয়ভাবে তৈরি।
এটি কতটা কাজ করে
লেখকেরা এই পদ্ধতি সিন্থেটিক ডেটায় নয়, বাস্তবতার সঙ্গে তুলনা করে যাচাই করেছেন। Simthesizer-এ তৈরি এক্সটেনশনগুলো vLLM-ভিত্তিক সিস্টেম পুনরুৎপাদন করেছে থ্রুপুটে গড়ে ২.৫১% ত্রুটিসহ। বিদ্যমান সিমুলেটরগুলোর এক্সটেনশনে একই মেট্রিক — ৬.০৩%। পার্থক্য দুই গুণেরও বেশি, আর তখন একই কোডিং এজেন্ট একই সেটআপে ব্যবহার করা হয়েছে: অর্থাৎ লাভটা আসছে সিমুলেটরের স্থাপত্য থেকেই, সফলভাবে নির্বাহকারী মডেল বাছাই থেকে নয়।
গতিও কম চমকপ্রদ নয়। অভিন্ন ওয়ার্কলোডে Simthesizer মডেলিং করেছে LLMServingSim2.0-এর চেয়ে ২৮৪.৯৬ গুণ পর্যন্ত দ্রুত, আর Vidur-এর চেয়ে ২৩.১৯ গুণ পর্যন্ত দ্রুত। এমন মাত্রা গবেষণার চরিত্রই বদলে দেয়: «একবার রান চালিয়ে অপেক্ষা করা»-র বদলে এক ডজন কনফিগারেশন ঘুরিয়ে দেখা আর পরিস্থিতিগুলো পরস্পরের সঙ্গে তুলনা করার সুযোগ তৈরি হয়।
এটি কী বদলায় আর কী মনে রাখা দরকার
এই পদ্ধতি যদি টিকে যায়, পরিবর্তন আসবে শুধু সংখ্যায় নয়, হাতিয়ারটির ভূমিকাতেও। সিমুলেটর আর জমে যাওয়া কোনো সৃষ্টি থাকবে না, যা এক-দুই বছরের পিছিয়ে বাস্তবতাকে ধরতে ছোটে, বরং হয়ে উঠবে এমন একটি সিস্টেম, যা এক আলাপেই নতুন কাজের সঙ্গে মানিয়ে নেওয়া যায়। যারা inference অবকাঠামো ডিজাইন করেন, তাঁদের জন্য এর অর্থ হলো অনুমান যাচাইয়ের আরও সস্তা চক্র: ধারণাটি লাভজনক কি না বুঝতে আগে সেটআপ দাঁড় করানো জরুরি নয়।
তবে কিছু প্রশ্নও আছে, যা লেখকেরা বন্ধনীর বাইরে রেখে গেছেন। নির্ভুলতা যাচাই এজেন্টের সূক্ষ্ম ভুল কতটা নির্ভরযোগ্যভাবে ধরতে পারে — যেমন যখন নতুন নোড আনুষ্ঠানিকভাবে কাজ করে, কিন্তু লোড ও টাইমিংয়ের নির্দিষ্ট সমন্বয়ে চুপচাপ আচরণ বদলে দেয়? অপ্রচলিত অ্যাক্সিলারেটরের মতো হার্ডওয়্যার-নির্দিষ্ট বিষয়গুলোতে পদ্ধতিটি কতটা খাটে? আর শেষে, আস্থার প্রশ্নটি খোলাই থেকে যায়: সিমুলেটর যখন 점점 বেশি নিজেকে নিজেই লেখে, তখন কেউ একজন তো থাকতে হবে, যে যা তৈরি হলো তা পড়তে জানে।
আপাতত ফলাফলটি সরল ও স্পষ্ট: «কম্পোজেবল স্থাপত্য প্লাস সীমিত ক্ষমতার এজেন্ট» — এই জোড়া আগের প্রজন্মের যত্নে পালিশ করা কিন্তু অনমনীয় সিমুলেটরগুলোর চেয়ে বেশি নির্ভুল এবং লক্ষণীয়ভাবে দ্রুততর মডেলিং দেয়। এটা ঠিক সেই ক্ষেত্র, যেখানে মডেল নয়, বরং হাতিয়ারের গঠনটাই বদলানো বেশি সঙ্গত।
