सुरक्षा चुनौती खुली मॉडलों में
बड़े भाषा मॉडलों में मज़बूत सुरक्षा उपायों को शामिल करना उपयोगी और हानिरहित उत्तरों के लिए आवश्यक है।
- स्वामित्व वाले सिस्टम मज़बूत सुरक्षा नियंत्रण दिखाते हैं।
- उनके तरीके और समझौते मुख्य रूप से अप्रकट रहते हैं।
- खुली मॉडलों में तुलनीय सुरक्षा हासिल करना एक स्थायी चुनौती बनी हुई है।
- पोस्ट-ट्रेंड वेरिएंट अक्सर अत्यधिक इनकार और समग्र गुणवत्ता में गिरावट से पीड़ित होते हैं।
Suan — एक नया प्राथमिकता अनुकूलन एल्गोरिद्म। इसे इन कमियों को दूर करने के लिए बनाया गया है। व्यावहारिक मानदंड: यदि कोई खुला मॉडल बहुत बार इनकार करता है और गुणवत्ता खो देता है, तो ऐसी विधि की आवश्यकता है जो उपयोगिता खोए बिना सुरक्षा संरेखण को सुधारे।
प्रत्यक्ष ग्रेडिएंट अनुकूलन
Suan अनुकूलन लक्ष्य को सीधे ग्रेडिएंट स्तर पर तैयार करता है। यह दृष्टिकोण मानक वैरिएशनल अनुमान को दरकिनार करता है। परिणामस्वरूप, प्रशिक्षण अधिक व्याख्यायोग्य और स्थिर हो जाता है।
| पहलू | मानक दृष्टिकोण की तुलना में Suan क्या बदलता है |
|---|---|
| लक्ष्य की रचना | मानक वैरिएशनल अनुमान के बजाय प्रत्यक्ष ग्रेडिएंट स्तर |
| प्रशिक्षण गतिशीलता | अधिक व्याख्यायोग्य और स्थिर |
चयन का मानदंड — यह देखना कि लक्ष्य कहाँ तैयार किया जाता है। प्रत्यक्ष ग्रेडिएंट स्तर अधिक पारदर्शी प्रशिक्षण गतिशीलता देता है।
मूल्यांकन और परिणाम
Suan ने व्यापक मूल्यांकन पास किए। वे विविध प्रतिस्पर्धी आधार विधियों और बेंचमार्क के एक सेट को कवर करते हैं।
- एल्गोरिद्म उत्कृष्ट सुरक्षा संरेखण प्राप्त करता है।
- एल्गोरिद्म उत्तरों की उपयोगिता पूरी तरह बनाए रखता है।
व्यावहारिक मानदंड: सुरक्षा और उपयोगिता की तुलना एक साथ करें। केवल इनकारों पर मूल्यांकन समग्र गुणवत्ता नहीं दिखाता। केवल गुणवत्ता पर मूल्यांकन सुरक्षा नहीं दिखाता।
आउटपुट डेटा
लेख का शीर्षक है «Suan: Rectifying Direct Preference Safety Alignment in Large Language Models»।
- लेखक — Oleksandr Cherednichenko, Roman Klypa।
- arXiv:2609.08634 (cs)।
- प्रस्तुति की तिथि — 8 सितंबर 2026।
- विषय: Machine Learning (cs.LG); Artificial Intelligence (cs.AI)।
- DOI: https://doi.org/10.48550/arXiv.2609.08634 (pending registration).
- प्रस्तुति इतिहास: Oleksandr Cherednichenko से; [v1] Tue, 8 Sep 2026 12:04:38 UTC (426 KB)।
- Cite as arXiv:2609.08634 [cs.LG] (or arXiv:2609.08634v1 [cs.LG] for this version)।
व्यावहारिक मानदंड: संदर्भ के लिए arXiv ID और DOI का उपयोग करें। DOI अभी पंजीकरण से गुजर रहा है।
