संगत समूहों के आधार पर मॉडलों का विलय: GRAM उप-अवकाशों के बीच हस्तक्षेप कम करता है

उपस्थान हस्तक्षेप की समस्या

अनेक कार्यों में परिनियोजन के लिए अलग-अलग मॉडलों को एक मॉडल में मिलाना आवश्यक है। स्वास्थ्य सेवा जैसे विनियमित क्षेत्रों में डेटा अक्सर स्थानीय स्तर पर ही रहता है। इसलिए विलय केवल फ़ाइन-ट्यून किए गए वज़नों के साथ ही काम करता है।

पुराने तरीके सभी कार्यों के लिए एक जैसा विलय लागू करते हैं। वे सीखे गए उपस्थानों के बीच ज्यामितीय संबंधों पर ध्यान नहीं देते। यदि कार्यों के अपडेट असंरेखित उपस्थानों में हों, तो एक साझा निम्न-रैंक आधार पर प्रक्षेपण करने से महत्वपूर्ण दिशाएँ छूट जाती हैं। लेखक इस घटना को subspace interference कहते हैं।

प्रत्येक कार्य के लिए प्रक्षेपण की त्रुटि प्रमुख कोणों के संरेखण से निर्धारित होती है। प्रमुख कोणों का संरेखण बताता है कि किसी कार्य का उपस्थान साझा उपस्थान से कितना मेल खाता है। निष्कर्ष: एक जैसा विलय उन दिशाओं को खोने का जोखिम पैदा करता है जो कुछ कार्यों के लिए महत्वपूर्ण होती हैं।

GRAM की कार्यप्रणाली: प्रमुख कोणों के आधार पर समूह

GRAM (Group-wise Rank-Aware Model Merging) कार्य-वेक्टरों के प्रमुख कोणों की ज्यामिति का उपयोग करता है। यह विधि तीन चरणों में काम करती है:

1. कार्य-वेक्टरों के बीच प्रमुख कोणों की गणना करना।
2. इन कोणों के आधार पर तय करना कि किन कार्यों को एक साथ मिलाना है।
3. प्रत्येक समूह के भीतर SVD पर आधारित मानक विलय करना।

विलय के चरण में यह विधि केवल फ़ाइन-ट्यून किए गए वज़नों का उपयोग करती है। इस विधि को मूल डेटा तक पहुँच की आवश्यकता नहीं होती। लेखकों के अनुसार, ज्यामितीय रूप से संगत कार्यों को समूहबद्ध करने से प्रत्येक समूह के भीतर प्रक्षेपण की त्रुटि प्रमाणित रूप से कम होती है।

व्यावहारिक मानदंड: GRAM तब उपयुक्त है जब डेटा साझा नहीं किया जा सकता और कार्य असंरेखित उपस्थानों में हो सकते हैं। यह विधि विलय से पहले कार्यों को संगत समूहों में बाँटने का तरीका देती है।

K=2 होने पर क्या बदलता है

केवल एक मॉडल जोड़ने वाला परिदृश्य (K=2) GRAM का प्रभाव दिखाता है। इस स्थिति में यह विधि subspace interference को काफ़ी कम करती है। परीक्षणों में यह लगातार पुराने विलय तरीकों से बेहतर प्रदर्शन करती है।

परीक्षणों में तीन क्षेत्र शामिल हैं:

• भाषा की समझ — GLUE with Flan-T5;
• कंप्यूटर विज़न — 8-task CLIP;
• चिकित्सा instruction tuning — Qwen2-7B-Instruct with four English/Chinese medical LoRAs.

निष्कर्ष: दो मॉडलों के विलय में भी इसका लाभ दिखता है। फ़ाइन-ट्यून किए गए एक मॉडल को जोड़ने के न्यूनतम परिदृश्य के लिए GRAM, हस्तक्षेप घटाने का एक परीक्षणित विकल्प देता है।

चयन के मानदंड

एक जैसे विलय और समूह-आधारित दृष्टिकोण के बीच चयन, कार्य की परिस्थितियों पर निर्भर करता है। नीचे GRAM के विवरण से निकले मानदंड दिए गए हैं।

व्यावहारिक निष्कर्ष: यदि डेटा स्थानीय स्तर पर ही रहता है और उपस्थानों की ज्यामिति के लिहाज़ से कार्य अलग-अलग हैं, तो समूह-आधारित विलय दिशाएँ खोने का जोखिम घटाता है। सभी कार्यों के लिए एक जैसा विलय इस जोखिम पर ध्यान नहीं देता।