LLM के युग्मित संवाद: मौजूदा विचारों से सहमति, नई मान्यताएँ थोपने की तुलना में, कट्टरपंथ को अधिक बढ़ाती है
प्रीप्रिंट arXiv:2609.38296 के लेखकों ने एक ऐसे लक्ष्य मॉडल और इन्फ्लुएंसर एजेंट के बीच हुई बातचीत का मॉडल तैयार किया, जिसमें लक्ष्य मॉडल एक मानवीय व्यक्तित्व की भूमिका निभाता है और एजेंट उसके रुझानों को चरम ध्रुव की ओर मोड़ने की कोशिश करता है। दोनों ही परिदृश्यों—पहले से मौजूद राय को मजबूत करना और पहले गौण रही राय को बढ़ावा देना—से भावात्मक और व्यवहारगत पैमानों पर बदलाव आया, हालांकि पहला परिदृश्य अधिक लगातार प्रभावी रहा।
लेखकों ने क्या मॉडल किया
arXiv पर «AI Agents are Vulnerable to Radicalization» नामक प्रीप्रिंट arXiv:2609.38296 के तहत प्रकाशित हुआ। लेखक हैं: Ozgur Can Seckin, Shalmoli Ghosh, Alessandro Flammini, Kristina Lerman, Maria Elizabeth Grabe और Filippo Menczer। उन्होंने यह शोध 29 सितंबर 2026 को जमा किया।
अध्ययन में दो एजेंट शामिल हैं:
- लक्ष्य भाषा मॉडल जनसांख्यिकीय और मनोवैज्ञानिक विशेषताओं के आधार पर एक मानवीय व्यक्तित्व की भूमिका निभाता है;
- प्रभाव डालने वाला मॉडल एजेंट, लक्ष्य एजेंट की मान्यताओं को अधिक चरम बनाने की कोशिश करता है।
लेखक जोड़ीदार संवादों में कट्टरपंथ की ओर झुकाव का अध्ययन करते हैं। व्यावहारिक मानदंड: यह ध्यान रखें कि प्रयोग LLM एजेंटों पर किया गया था।
अनुनाद बनाम मनाने की कोशिश
अनुनाद लक्ष्य एजेंट की पहले से मौजूद मान्यता को मज़बूत करता है। मनाने की कोशिश उस दृष्टिकोण को आगे बढ़ाती है जिसे लक्ष्य एजेंट शुरू में महत्वहीन मानता था। दोनों तरीकों ने भावात्मक और व्यवहारगत मापदंडों पर लक्ष्य एजेंट को अधिक कट्टर बनाया।
| तंत्र | यह क्या करता है | परिणाम |
|---|---|---|
| अनुनाद | पहले से मौजूद मान्यता को मज़बूत करता है | लगातार अधिक मज़बूत प्रभाव पैदा करता है |
| मनाने की कोशिश | एजेंट के लिए महत्वहीन दृष्टिकोण को आगे बढ़ाती है | कट्टरता की ओर ले जाती है, लेकिन अनुनाद से कम |
अनुनाद का असर संबंधित मान्यताओं पर भी पड़ा। व्यावहारिक मानदंड: संवाद के जोखिमों का आकलन करते समय, एजेंट के मौजूदा विचारों से संदेशों के मेल को प्राथमिकता दें।
प्रभाव डालने की रणनीतियाँ और उनकी सीमाएँ
प्रभाव डालने की अलग-अलग रणनीतियों से कट्टरता के अलग-अलग स्तर सामने आए। इन रणनीतियों में शामिल हैं:
- चापलूसी;
- अपुष्ट दावे।
सभी मापदंडों पर कोई एक समान क्रम नहीं दिखा। इसका अर्थ है कि रणनीति प्रभाव को प्रभावित करती है, लेकिन उसे पूरी तरह स्पष्ट नहीं करती।
व्यावहारिक मानदंड: जोखिम विश्लेषण को अलग-अलग अलंकारिक युक्तियों तक सीमित न करें। मौजूदा मान्यताओं के साथ तालमेल अधिक भरोसेमंद संकेत बना रहता है।
वैयक्तिकृत और बहु-एजेंट प्रणालियों के जोखिम
लेखक निष्कर्ष निकालते हैं कि AI एजेंट कट्टरता की ओर झुकाव के प्रति संवेदनशील हैं। यह खास तौर पर तब होता है जब संदेश उनकी मौजूदा मान्यताओं से मेल खाते हैं। इससे इन बातों को लेकर चिंताएँ पैदा होती हैं:
- वैयक्तिकृत AI एजेंटों की संवेदनशीलता;
- बहु-एजेंट AI इकोसिस्टम की संवेदनशीलता।
व्यावहारिक मानदंड: जाँचें कि सिस्टम नई धारणाएँ जोड़ने के बजाय मौजूदा धारणाओं को तो मज़बूत नहीं कर रहा।
अक्सर पूछे जाने वाले प्रश्न
समान सामग्री
सभी सामग्री
इंटरैक्टिव XR विकास में कोडिंग एजेंटों का मूल्यांकन: GenXR-Bench के निष्कर्ष
GenXR-Bench प्रकाशित किया गया है—इंटरैक्टिव XR विकास में coding एजेंटों के एंड-टू-एंड मूल्यांकन के लिए 112 विशेषज्ञ कार्यों का एक सेट: सुविधाओं को बेहतर बनाने और दोषों को ठीक करने से लेकर उपभोक्ता उपकरणों पर व्यवहार की जाँच के साथ ऐप्लिकेशन बनाने तक। परीक्षण किए गए दस मॉडलों में सर्वश्रेष्ठ परिणाम 50,9% Pass@1 रहा; बार-बार सामने आने वाली विफलताओं में सेंसर की असिंक्रोनस घटनाओं को संभालना, वस्तुओं को वास्तविक स्थान से जोड़ना और भौतिक संदर्भ में अंतःक्रिया को समझना शामिल हैं।
5 नवम्बर 2026
हाइब्रिड इमेज एनोटेशन: ऑटोमेशन कंप्यूटर विज़न मॉडल्स के प्रशिक्षण को तेज़ करता है
यह लेख बताता है कि एल्गोरिदम द्वारा पूर्व-लेबलिंग मैन्युअल काम को कैसे कम करती है और प्रशिक्षण डेटासेट की गुणवत्ता कैसे बढ़ाती है, साथ ही यह भी कि इंसानों द्वारा नमूना-आधारित सत्यापन अब भी क्यों ज़रूरी है। इसमें कठिन शूटिंग परिस्थितियों और दुर्लभ प्रकार की वस्तुओं के मामले में इस विधि की सीमाओं पर चर्चा की गई है।
5 नवम्बर 2026
स्केलर पुरस्कार से पारेतो फ्रंट तक: बहु-उद्देश्यीय रीइन्फोर्समेंट लर्निंग के साथ RTL का LLM संश्लेषण
एक भाषा मॉडल को एक ही डिज़ाइन के बजाय क्षेत्रफल, विलंबता और ऊर्जा खपत के बीच अलग-अलग समझौतों वाले RTL उम्मीदवारों का एक सेट तैयार करने के लिए प्रशिक्षित करने का तरीका प्रस्तावित किया गया है; इनाम की गणना पारेतो फ्रंट के हाइपरवॉल्यूम में प्रत्येक उम्मीदवार के योगदान के आधार पर की जाती है। RTLLM v2 पर, PPA अनुकूलन के बिना मूल संस्करण की तुलना में सापेक्ष हाइपरवॉल्यूम 13,3 प्रतिशत अंक और एकल-उद्देश्यीय सुदृढीकरण सीखने की तुलना में 14,4 प्रतिशत अंक बढ़ा।
5 नवम्बर 2026