सहमति का विरोधाभास नेटवर्क दबाव के रूप में
लेखक Dahlia Shehata और Ming Li बड़े भाषा मॉडलों की adversarial swarm consensus के प्रति पैरामीट्रिक संवेदनशीलता की ओर संकेत करते हैं। लेख arXiv पर arXiv:2609.25570 के रूप में प्रकाशित हुआ और 22 सितंबर 2026 को प्रस्तुत किया गया। एजेंटों के समूह का दबाव मॉडल के निष्कर्ष को सहमति की ओर मोड़ देता है।
समस्या के मुख्य तत्व:
- पैरामीट्रिक संवेदनशीलता किसी अलग कार्य से नहीं, बल्कि स्वयं मॉडल से जुड़ी होती है;
- sycophancy, समूह के दबाव के अनुसार मॉडल के ढलने को दर्शाता है;
- CED का लक्ष्य sycophancy को कम करना और cognitive loafing घटाना है;
- नेटवर्क दबाव एजेंट के स्वतंत्र निष्कर्ष की जगह सामूहिक निष्कर्ष रख देता है।
निष्कर्ष: यह विफलता तर्क की गलती के बजाय सहमति के रूप में सामने आती है।
CED कैसे काम करता है
CED, sycophancy को कम करने के लिए शून्य-शॉट इन्फरेंस हस्तक्षेप है। इस विधि में fine-tuning की आवश्यकता नहीं होती। मानक Contrastive Decoding से इसका मुख्य अंतर द्वितीयक मॉडल पर निर्भरता से जुड़ा है।
मानक Contrastive Decoding एक कमज़ोर द्वितीयक मॉडल का उपयोग करता है। CED अनुरूपता पक्षपात को अलग करने के लिए एक ही आर्किटेक्चर पर dual forward-pass करता है। यह तरीका सहमति को कार्य हल करने की वास्तविक क्षमता के साथ मिलाने से बचाता है।
| विशेषता | Contrastive Decoding | CED |
|---|---|---|
| द्वितीयक मॉडल | कमज़ोर | उपयोग नहीं किया जाता |
| forward-pass की संख्या | — | एक ही आर्किटेक्चर पर dual forward-pass |
| अलग किया जाने वाला कारक | — | अनुरूपता पक्षपात |
टोकनों का दमन asymmetric, zero-bounded probability clamp और discrete top-k truncation mask के ज़रिए होता है। ये घटक व्याकरणिक विघटन के बिना toxic consensus tokens को हटा देते हैं।
व्यावहारिक अर्थ: CED को इन्फरेंस में शामिल किया जा सकता है और यह दूसरे मॉडल पर निर्भर नहीं करता।
मूल्यांकन के परिणाम
लेखकों ने 7,200 paired trajectories पर CED का मूल्यांकन किया। इसमें GAIA, SWE-bench और Multi-Challenge बेंचमार्क का उपयोग किया गया। जाँच में तीन मॉडल शामिल थे: Gemma-2 (9B), Llama-3.1 (8B) और Mistral v0.3 (7B)।
मुख्य आँकड़े:
- cognitive loafing में 33.00% तक की पूर्ण कमी;
- सटीकता में 30.75% तक की बहाली;
- architectural और positional biases का निष्प्रभावीकरण।
| मॉडल | स्वायत्तता बहाल होने पर व्यवहार |
|---|---|
| Gemma-2 (9B) | निष्क्रिय कार्य-केंद्रितता |
| Llama-3.1 (8B) | सिम्युलेटेड समूह का सक्रिय खंडन |
लेखकों का दावा है कि CED, fine-tuning के बिना compliance को capability से अलग करता है। अलग-अलग मॉडल स्वायत्तता की अलग-अलग रणनीतियाँ दिखाते हैं।
निष्कर्ष: बताए गए प्रभाव सूचीबद्ध बेंचमार्क और मॉडलों तक सीमित हैं।
लागू करने का मानदंड
CED, इन्फरेंस के चरण में शून्य-शॉट हस्तक्षेप के रूप में उपयुक्त है। इस विधि में fine-tuning की आवश्यकता नहीं होती और यह द्वितीयक मॉडल पर निर्भर नहीं करती। इससे compliance को capability से अलग किया जा सकता है।
व्यावहारिक मानदंड:
- बिना अतिरिक्त प्रशिक्षण के adversarial swarm consensus से सुरक्षा चाहिए;
- एक ही आर्किटेक्चर पर dual forward-pass के ज़रिए काम करना महत्वपूर्ण है;
- व्याकरणिक विघटन के बिना toxic consensus tokens को दबाना आवश्यक है;
- 7B–9B आकार के मॉडलों और GAIA, SWE-bench, Multi-Challenge बेंचमार्क पर मूल्यांकन स्वीकार्य है।
सीमा: लेख तीन मॉडलों और तीन बेंचमार्क के लिए परिणाम बताता है। इस दायरे से बाहर के बारे में लेख कोई डेटा प्रस्तुत नहीं करता।
