ডিফিউশন ভাষা মডেল ফাইন-টিউন করার GoldiMask পদ্ধতি: প্রেক্ষাপট নির্বাচন ও লক্ষ্যগুলোর ওজন নির্ধারণ

মাস্কিং একই সঙ্গে দুটি সিদ্ধান্ত নির্ধারণ করে

বিচ্ছিন্ন ডিফিউশন ভাষা মডেলের ফাইন-টিউনিং নির্ভর করে মাস্ক করা টোকেন পুনরুদ্ধারের ওপর। উত্তরের কিছু টোকেন মাস্ক দিয়ে ঢেকে দেওয়া হয়, আর মডেল দৃশ্যমান প্রসঙ্গের ভিত্তিতে সেগুলোর মূল মান অনুমান করে।

মাস্কিং স্কিম একসঙ্গে দুটি বিষয় নির্ধারণ করে। এটি ঠিক করে মডেলের কাছে কোন প্রসঙ্গ উপলভ্য থাকবে। একই সঙ্গে এটি ঠিক করে কোন টোকেনগুলো পূর্বাভাসের লক্ষ্য হবে।

এই সিদ্ধান্ত দুটি পরস্পরের সঙ্গে সম্পর্কিত: কোনো টোকেন উন্মুক্ত হলে সেটি আর লক্ষ্য থাকে না। সমানভাবে দৈব মাস্কিং এই সম্পর্ক বিবেচনায় নেয় না। ফলে কিছু টোকেন এমন জায়গায় উন্মুক্ত হয়, যেখানে তা পূর্বাভাসে খুব বেশি সহায়তা করে না।

GoldiMask পদ্ধতিটি Fine-Tuning Diffusion Language Models with Context Selection and Target Weighting (arXiv:2609.38385, ২৯ সেপ্টেম্বর ২০২৬) প্রবন্ধে বর্ণনা করা হয়েছে। এটি বিচ্ছিন্ন ডিফিউশন ভাষা মডেলের supervised fine-tuning-এর জন্য তৈরি।

মানদণ্ড: মাস্কিং স্কিমকে প্রসঙ্গ ও লক্ষ্য সম্পর্কে একটি সম্মিলিত সিদ্ধান্ত হিসেবে মূল্যায়ন করা উচিত। এতে বোঝা যায়, কোথায় টোকেন উন্মুক্ত করা যুক্তিযুক্ত আর কোথায় নয়।

মডেলের সংকেত অনুযায়ী প্রসঙ্গ নির্বাচন

GoldiMask প্রসঙ্গ হিসেবে উন্মুক্ত করার জন্য টোকেন বেছে নেয়। এই নির্বাচন আনুমানিকভাবে একটি সাবমডুলার লক্ষ্য ফাংশনকে সর্বোচ্চ করে।

পদ্ধতিটি মডেলের সংকেত ব্যবহার করে এবং দুটি বিষয়ের মধ্যে ভারসাম্য রাখে:

• নির্দিষ্ট একটি টোকেন উন্মুক্ত করার ফলে যে উপকার হয়;
• পূর্বাভাসের লক্ষ্য হিসেবে ওই টোকেনটির মূল্য।

যে টোকেন আশপাশের বিষয়বস্তুর পূর্বাভাসে সহায়তা করে, সেটি উন্মুক্ত করাই লাভজনক। যে টোকেনের পূর্বাভাস মডেলের জন্য কঠিন, সেটিকে লক্ষ্য হিসেবে রেখে দেওয়াই ভালো।

ব্যবহারিক মানদণ্ড: প্রসঙ্গের দৈব নির্বাচন মডেলের সংকেত ব্যবহার করে না। ঠিক এই ধরনের স্কিম ব্যবহার করা হলে প্রসঙ্গ নির্বাচনের সম্ভাবনা কাজে লাগানো হয় না।

লক্ষ্য টোকেনের ওজন নির্ধারণ

প্রসঙ্গ নির্বাচন করার পর কিছু টোকেন পূর্বাভাসের লক্ষ্য হিসেবে থেকে যায়। GoldiMask দুটি বিষয় বিবেচনায় নিয়ে সেগুলোর ওজন নির্ধারণ করে:

• নির্বাচিত প্রসঙ্গটি নির্দিষ্ট টোকেনের পূর্বাভাসে কতটা সহায়তা করে;
• ওই টোকেনটির শেখার কতটা সম্ভাবনা অবশিষ্ট আছে।

এভাবে ওজন নির্ধারণ লক্ষ্যগুলোকে প্রসঙ্গ সম্পর্কে আগে নেওয়া সিদ্ধান্তের সঙ্গে যুক্ত করে। ওজন নির্ধারণ করে না, কোন টোকেন উন্মুক্ত করা হবে। বরং যেসব টোকেন ঢাকা থেকে গেছে, সেগুলো শেখার ক্ষেত্রে কতটা অবদান রাখবে, তা নির্ধারণ করে।

মানদণ্ড: মাস্কিং স্কিম বিশ্লেষণ করার সময় দুটি প্রশ্ন আলাদা করে দেখা দরকার—কোন টোকেন উন্মুক্ত করা হবে এবং অবশিষ্ট টোকেনগুলোকে কী ওজনে শেখানো হবে।

মডেল ও ডেটাসেটে ফলাফল

তিনটি বেস মডেল এবং তিনটি প্রশিক্ষণ ডেটাসেটে GoldiMask পরীক্ষা করা হয়েছে। মূল্যায়ন করা অধিকাংশ সেটিংয়ে পদ্ধতিটির গড় নির্ভুলতা ছিল সর্বোচ্চ।

যুক্তি এবং কোড জেনারেশনের কাজেও উন্নতি দেখা গেছে। উপাদানগুলোর অ্যাবলেশন পরীক্ষায় দেখা গেছে, উন্নতিতে দুটি প্রক্রিয়াই অবদান রাখে: প্রসঙ্গ নির্বাচন এবং লক্ষ্য টোকেনের ওজন নির্ধারণ।

ব্যবহারিক মানদণ্ড: অধিকাংশ সেটিংয়ে সর্বোচ্চ নির্ভুলতা মানেই প্রতিটি কনফিগারেশনে উন্নতি নয়। নির্দিষ্ট “বেস মডেল + প্রশিক্ষণ ডেটাসেট” জুটিতে পদ্ধতিটি পরীক্ষা করে দেখা যুক্তিযুক্ত।

সমান্তরাল ডিকোডিংয়ের ওপর প্রভাব

আরেকটি ফলাফল আত্মবিশ্বাসের থ্রেশহোল্ডসহ সমান্তরাল ডিকোডিংয়ের সঙ্গে সম্পর্কিত। GSM8K এবং MATH-500-এ GoldiMask ডিকোডিংয়ের পুনরাবৃত্তির সংখ্যা কমায়।

একই সময়ে, উচ্চতর আত্মবিশ্বাসের থ্রেশহোল্ডেও নির্ভুলতা তুলনীয় থাকে।

ব্যবহারিক মানদণ্ড: পাইপলাইনে আত্মবিশ্বাসের থ্রেশহোল্ডসহ সমান্তরাল ডিকোডিং ব্যবহার করা হলে, পদ্ধতিটি ডিকোডিং ধাপের সংখ্যা এবং নির্ভুলতা—দুটোর ওপরই প্রভাব ফেলে। এখানে শুধু নির্ভুলতার ভিত্তিতে মূল্যায়ন করলে তা অসম্পূর্ণ হবে।