समाचार
डिफ्यूज़न भाषा मॉडल्स को फ़ाइन-ट्यून करने की GoldiMask विधि: संदर्भ चयन और लक्ष्य भारांकन
इस कार्य में GoldiMask प्रस्तुत किया गया है—डिस्क्रीट डिफ्यूज़न वाले भाषा मॉडलों के लिए supervised fine-tuning का एक तरीका, जो सबमॉड्यूलर फ़ंक्शन के लगभग अधिकतमीकरण के ज़रिए दिखाई देने वाले टोकन चुनता है और शेष लक्ष्यों को उनकी प्रशिक्षण उपयोगिता के अनुसार वज़न देता है। कई मॉडलों और डेटासेट पर किए गए प्रयोग औसत सटीकता में वृद्धि, तर्क और प्रोग्रामिंग कार्यों में बेहतर प्रदर्शन, और लगभग समान गुणवत्ता के साथ GSM8K तथा MATH-500 पर समानांतर डिकोडिंग के कम पुनरावृत्ति चरण दर्शाते हैं।
