12 सामग्री
शोधकर्ताओं ने पाया कि LLM को अनसीखाने (unlearning) के मानक तरीके कुछ ही भूले हुए उदाहरणों पर फिर से प्रशिक्षण देने पर आसानी से विफल हो जाते हैं। उनके द्वारा प्रस्तावित Margin Calibration तकनीक एक गैर-संतृप्त मार्जिन दंड जोड़ती है और विभिन्न मॉडलों और डेटासेटों पर ऐसे हमलों की सफलता को काफी हद तक कम कर देती है।
नया शोध दिखाता है कि पक्षपाती LLM-जज चुपचाप असफल कौशलों को हटाने की प्रणाली को तोड़ देता है: यदि झूठी सफलताओं का अनुपात 0.45 से अधिक हो, तो सिस्टम कौशल लाइब्रेरी को साफ करना बंद कर देता है, और यह समग्र मेट्रिक्स में दिखाई नहीं देता। लेखक तैनाती से पहले जज की जांच के लिए दोष इंजेक्शन के साथ एक सस्ता ऑडिट सुझाते हैं।
कई साइबर सुरक्षा विशेषज्ञों ने बताया कि उन्होंने Trusted Access for Cyber प्रोग्राम में Daybreak Blue स्तर तक पहुंच खो दी है। OpenAI ने अपनी ओर से समस्या स्वीकार की और दोबारा सत्यापन करने का अनुरोध किया।
भाषा मॉडलों की सफलता केवल टोकनों के पुन: उपयोग से नहीं, बल्कि इस बात से भी जुड़ी है कि संपीड़न कैसे व्यवस्थित किया गया है। संगीत के लिए, पहले से संबंधों को निर्धारित करने की कोशिश करना, जैसे कि पंचम चक्र के माध्यम से, भविष्यवाणियों को खराब कर देता है — अधिक महत्वपूर्ण है मॉडल का संदर्भ छोड़ना और समय को सही ढंग से निर्धारित करना।
हम Stable Diffusion को PC पर इंस्टॉल करने के सबसे भरोसेमंद तरीकों पर चर्चा करते हैं: आधिकारिक ComfyUI Desktop इंस्टॉलर, बहुमुखी Pinokio, और आधुनिक मॉडलों के लिए Forge Neo। हम समझाते हैं कि किस GPU की आवश्यकता होगी, Automatic1111 अब सबसे अच्छा विकल्प क्यों नहीं है, और पहली जनरेट की गई तस्वीर तक कितना समय लगेगा।
लेखकों ने दिखाया कि सामान्य प्रतिकूल प्रॉम्प्ट ट्यूनिंग मॉडल को छद्म-स्थिर विशेषताओं से चिपकाए रखती है और नए वर्गों पर सटीकता खो देती है। नई ADAPT विधि, जो डिकॉय प्रॉम्प्ट्स का उपयोग करती है, उपयोगी विशेषताओं को सामान्यीकरण योग्य संक्षिप्त पथों से अलग करके इस समस्या का समाधान करती है।
नया शोध दिखाता है कि टेक्स्ट मेमोरी वाले आशाजनक AI एजेंट भी कार्यों के क्रम बदलने पर गंभीर रूप से खराब हो जाते हैं, और उनका मूल्यांकन शोरगुल भरा होता है। लेखक अधिक कठोर परीक्षण प्रोटोकॉल और सुधार के बारे में निष्कर्ष निकालने में सावधानी बरतने का आग्रह करते हैं।
InnerExpert का नया दृष्टिकोण MoE मॉडल्स में रूटिंग और विशेषज्ञों की असहमति की विशेषताओं का उपयोग करके टोकन-स्तर पर निर्मित (हैलुसिनेटेड) अंशों की पहचान करता है। यह विधि बिना मैन्युअल एनोटेशन के प्रशिक्षित होती है और पाँच डेटासेट्स पर उत्तर-स्तर पर 0.91 तक और टोकन-स्तर पर 0.76 तक की सटीकता एक ही पास में दिखाती है।
लेखकों ने उड़ानों, अपार्टमेंटों और होटलों के बारे में सवालों पर छह भाषा मॉडलों का परीक्षण किया और पाया कि भुगतान करने की इच्छा के बारे में संख्यात्मक उत्तर व्यवस्थित रूप से एक-दूसरे के विपरीत हैं। इस वजह से, ऐसे अनुमानों को एक उपयोगिता फ़ंक्शन द्वारा वर्णित नहीं किया जा सकता — और इसलिए, निर्णय लेते समय उन पर भरोसा करना जोखिम भरा है।
