Lean 4-এ কম্পাইলার ডায়াগনস্টিকের সহায়তায় সীমিত ট্যাকটিক মেরামত
একটি ধাপে ধাপে কাজ করা মডিউল দেওয়া হয়েছে, যা প্রত্যাখ্যাত ট্যাকটিক বাতিল না করে Lean-এর ত্রুটি বিবেচনায় নিয়ে সংশোধক মডেলকে সেটি সর্বোচ্চ R বার সংশোধন করতে বলে; Kটি প্রার্থী থাকলে এতে সমাধান হওয়া সমস্যার হার বাড়ে। LeanDojo এবং Lean Workbook-এ পরীক্ষা থেকে দেখা যায়, এই উন্নতির বেশিরভাগই আসে অগভীর নির্বাহগত ব্যর্থতা থেকে, তবে এর বিনিময়ে অনুসন্ধানের সময় বেড়ে যায়।

সীমিত ট্যাকটিক মেরামত কী বদলায়
এই নিবন্ধে Lean 4-এ সীমিত ট্যাকটিক মেরামত নিয়ে আলোচনা করা হয়েছে। মৌলিক পদ্ধতিটি শুধু ট্যাকটিক নমুনা বেছে নেয় এবং ব্যর্থ ধাপটি বাদ দেয়। সীমিত মেরামত ধাপটি ধরে রাখে এবং কম্পাইলারের ডায়াগনস্টিক তথ্য অনুযায়ী সেটি সংশোধন করে। ফলে অনুসন্ধান বেছে নেওয়া দিকটি হারায় না।
| পদ্ধতি | ব্যর্থ ট্যাকটিক নিয়ে করণীয় | নির্ভর করে |
|---|---|---|
| শুধু নমুনা বাছাই | ধাপটি বাদ দেয় | ট্যাকটিকের প্রার্থী |
| সীমিত মেরামত | ধাপটি সেখানেই সংশোধন করে | কম্পাইলারের ত্রুটির বার্তা |
ব্যবহারিক মানদণ্ড: মেরামত প্রার্থীদের নমুনা বাছাইয়ের পরিপূরক, এর বিকল্প নয়।
কম্পাইলার ডায়াগনস্টিকসহ অনুসন্ধানের ধাপ যেভাবে কাজ করে
অনুসন্ধানের ধাপে একটি সীমিত অনলাইন মডিউল কাজ করে।
- অনুসন্ধান Kটি ট্যাকটিক প্রার্থী বেছে নেয়।
- মডেল একটি ব্যর্থ ট্যাকটিক সর্বোচ্চ R বার সংশোধন করে।
- পদ্ধতিটি কম্পাইলারের ত্রুটির বার্তা পূর্বপ্রশিক্ষিত সংশোধন মডেলে পাঠায়।
- মডেল প্রত্যাখ্যাত ধাপটি বাদ না দিয়ে সেখানেই সংশোধন করে।

ব্যবহারিক মানদণ্ড: কম্পাইলারের ডায়াগনস্টিক তথ্য ধাপটি স্থানীয়ভাবে সম্পাদনার ইনপুট হিসেবে কাজ করে।
K এবং R-এর বাজেট
বাজেট দুটি প্যারামিটার দিয়ে নির্ধারিত হয়। K প্রতি ধাপে ট্যাকটিক প্রার্থীর সংখ্যা সীমিত করে। R একটি ব্যর্থ ট্যাকটিক কতবার সংশোধন করা যাবে তা সীমিত করে। মূল্যায়নে K = 1, 3, 5, 8 পরীক্ষা করা হয়েছে।
| প্যারামিটার | ভূমিকা | মূল্যায়নে যা দেখা যায় |
|---|---|---|
| K | প্রতি ধাপে ট্যাকটিক প্রার্থীর সংখ্যা | 1, 3, 5, 8 মান পরীক্ষা করা হয়েছে |
| R | ব্যর্থ ট্যাকটিক সংশোধনের সীমা | মেরামতে সময় বাড়ে, তবে অতিরিক্ত প্রমাণ পাওয়া যায় |
সংশোধনে সম্পাদনের সময় বাড়ে, তবে অতিরিক্ত প্রমাণ খুঁজে পাওয়া সম্ভব হয়। সীমিত নমুনা বাছাইয়ের ক্ষেত্রে এটি সবচেয়ে বেশি উপকার করে। এর প্রভাব কমতে থাকে: সংশোধনের প্রথম প্রচেষ্টাতেই মোট উন্নতির 84–96% পাওয়া যায়।
ব্যবহারিক মানদণ্ড: সীমিত নমুনা বাছাইয়ে মেরামত সবচেয়ে বেশি উপকার করে, আর অতিরিক্ত সংশোধনের প্রভাব কমতে থাকে।
মূল্যায়নে যা দেখা যায়
পরীক্ষিত সব K = 1, 3, 5, 8 মানেই এই পদ্ধতি সমাধান করা সমস্যার হার বাড়ায়। আপেক্ষিক উন্নতি 32% পর্যন্ত পৌঁছায়। LeanDojo বেঞ্চমার্কের 1 990টি উপপাদ্যের উপসেটে 82টি বেশি উপপাদ্য সমাধান করা হয়েছে। Lean Workbook বেঞ্চমার্কে সমাধান করা সমস্যার হার প্রায় দ্বিগুণ হয়েছে। কোনো রিগ্রেশন দেখা যায়নি।
ব্যবহারিক মানদণ্ড: পরীক্ষিত K বাজেটে মেরামত সমাধান করা সমস্যার হার বাড়ায়; মূল্যায়ন এর বাইরের বাজেট বিবেচনা করে না।
কোথায় মেরামত সাহায্য করে, আর কোথায় করে না
উন্নতির প্রায় পুরোটাই ট্যাকটিক সম্পাদনের অগভীর ব্যর্থতার সঙ্গে সম্পর্কিত। টাইপের অমিলের মতো কাঠামোগত ত্রুটির সঙ্গে উন্নতির সম্পর্ক প্রায় নেই।
| ব্যর্থতার ধরন | উন্নতির সঙ্গে সম্পর্ক |
|---|---|
| ট্যাকটিক সম্পাদনের অগভীর ব্যর্থতা | উন্নতির প্রধান উৎস |
| কাঠামোগত ত্রুটি, যেমন টাইপের অমিল | উন্নতির সঙ্গে প্রায় কোনো সম্পর্ক নেই |
ব্যবহারিক মানদণ্ড: মেরামত ট্যাকটিক সম্পাদনের অগভীর ব্যর্থতার দিকে লক্ষ্য রাখে, কাঠামোগত ত্রুটির দিকে নয়।
সাধারণ প্রশ্নোত্তর
বিভিন্ন উপাদান
সব উপাদান
Genesis Steering পদ্ধতি: ফাইন-টিউনিংয়ে ব্যবহৃত ডেটার ওপর অ্যাক্টিভেশন নিয়ন্ত্রণ
এই পদ্ধতি ফাইন-টিউনিং ডেটায় থাকা বৈপরীত্যপূর্ণ উদাহরণ থেকে একটি নিয়ন্ত্রণ ভেক্টর বের করে; সেগুলো পাওয়া না গেলে membership inference-এর মাধ্যমে সম্ভাব্য প্রশিক্ষণ নমুনা বেছে নিয়ে একটি প্রক্সি সেট তৈরি করে। তাত্ত্বিক অংশে সিদ্ধান্তসীমার দিকে সর্বোত্তম স্থানচ্যুতি এবং প্রক্সি ডেটা থেকে অনুমানের বিবরণ দেওয়া হয়েছে; পরীক্ষায় দেখা গেছে, Tülu-3-8B-এর অভ্যন্তরীণ ডেটা বাহ্যিক সেটের তুলনায় বেশি স্পষ্ট প্রভাব ফেলে, অন্যদিকে Llama-3.1-8B-Instruct-এ MIA-প্রক্সির কার্যকারিতা দিকনির্দেশের স্থানচ্যুতিগুলোর পারস্পরিক অনুপাতের কারণে সীমিত।
16 নভেম্বর 2026
স্পার্স এক্সপার্টসহ ইন-কনটেক্সট ট্যাবুলার লার্নিং: কমপ্যাক্ট OrionMoE-Small-v1.0
টেবিলভিত্তিক কাজের জন্য একটি কমপ্যাক্ট ফাউন্ডেশন মডেল উপস্থাপন করা হয়েছে, যা প্যারামিটার ফাইন-টিউন না করেই লেবেলযুক্ত রেফারেন্স টেবিলের ভিত্তিতে নতুন পর্যবেক্ষণের পূর্বাভাস দেয়। ডেটাসেট ও বৈশিষ্ট্য উপস্থাপনা অনুযায়ী বিশেষজ্ঞদের অভিযোজিত নির্বাচন প্রতিযোগিতামূলক ফল দেয়, বিশেষত অল্প কনটেক্সট ও উচ্চ মাত্রিকতার ক্ষেত্রে।
15 নভেম্বর 2026
অবিশ্বস্ত পূর্বাভাসযুক্ত প্রোফাইলের জন্য কোভেরিয়েট শিফটের স্থানীয় অনুসন্ধান
প্রবন্ধটি এমন একটি ডায়াগনস্টিক পাইপলাইনের বর্ণনা দেয়, যা প্রথমে মডেলের কম আত্মবিশ্বাসযুক্ত রোগীদের ব্যাখ্যাযোগ্য গোষ্ঠী শনাক্ত করে, তারপর সেই গোষ্ঠীগুলোর মধ্যে ক্ষতিকর কোভেরিয়েট শিফটের উপস্থিতি যাচাই করে। তিনটি ক্লিনিক্যাল কাজ এবং তিনটি কৃত্রিম উপগোষ্ঠী-শিফট নিয়ে MIMIC-IV-তে চালানো পরীক্ষায় এই পদ্ধতি বয়সজনিত শিফট শনাক্ত করতে সাহায্য করেছে, যা সামগ্রিক মূল্যায়নে খুব একটা চোখে পড়েনি।
15 নভেম্বর 2026