25 सामग्री
PAWM प्रस्तावित किया गया है—एक बाहरी प्रेडिक्टर, जो चरण-दर-चरण अवलोकन को दोहराता नहीं, बल्कि संभावित विफलता के समय सक्रिय होकर एजेंट को गलत कार्रवाई से दूर ले जाता है। सिंथेटिक परिदृश्यों पर SFT और GRPO के साथ सह-प्रशिक्षण के बाद, इस विधि ने Claude Sonnet 4.5 के लिए ScienceWorld में 24,3% और WebArena-Lite में 7,7% का सुधार दिया।
इस अध्ययन में संदर्भगत भ्रम की अवधारणा प्रस्तुत की गई है: एक विषय-क्षेत्र में उपयुक्त उदाहरणों पर फ़ाइन-ट्यूनिंग करने से सीखा हुआ व्यवहार दूसरे क्षेत्र के प्रश्नों पर भी लागू हो सकता है और स्थानीय असंगति पैदा कर सकता है। लैंगिक समानता, निजता और शारीरिक सुरक्षा के उदाहरणों के आधार पर दिखाया गया है कि सामान्य संरेखण डेटा इस समस्या को हल करने में लगभग अप्रभावी है, जबकि लक्षित उदाहरण या इन्फ़रेंस के दौरान दिए गए संदर्भगत संकेत इसे कम करते हैं; एक अलग निष्कर्ष यह है कि प्रशिक्षण के बाद संगति की व्यापक जाँच आवश्यक है।
पाँच कार्य-समूहों और पाँच प्राप्तकर्ता एजेंटों पर किए गए प्रयोगों में, किसी वरिष्ठ प्रतिभागी की अविश्वसनीय बात ने अधीनस्थ प्रतिभागी के सही निष्कर्ष को 32% तक के एपिसोड में बदल दिया; ऐसे 94% मामलों में एक विशिष्ट गलत उत्तर को सही उत्तर की जगह रखा गया। नतीजों से पता चलता है कि संदेशों को आगे भेजते समय स्रोत की विश्वसनीयता और प्राप्तकर्ता के पास पहले से उपलब्ध साक्ष्यों का मूल्यांकन करना आवश्यक है।
प्रीप्रिंट उस स्थिति का वर्णन करता है जिसमें भाषा एजेंट लक्ष्य प्राप्त करने के बाद भी कम उपयोगी सुधार और जाँच जारी रखता है, और इसकी वजह एक ऐसे स्व-सुदृढ़ीकरण चक्र को बताता है जिसमें सृजन, प्रगति का मूल्यांकन और रुकने का निर्णय अलग-अलग नहीं होते। अनिश्चितता को ध्यान में रखने वाला प्रस्तावित वैश्विक नियंत्रण स्तर सफलता दर को लगभग 96.6% पर बनाए रखता है और साथ ही टोकन की औसत खपत 36.4% घटाता है, हालाँकि निष्कर्ष अभी यांत्रिक सिमुलेशन पर आधारित हैं।
Apple ने डेवलपर्स के लिए बिल्ड 26B5091g जारी किया है। इस संस्करण में मुख्य ध्यान परीक्षण और सुधारों पर दिया गया है, जबकि कंपनी ने किसी बड़े नए फ़ीचर की घोषणा नहीं की। इस सारांश में पहली बीटा में जोड़ी गई Siri AI की भाषाएँ, Xcode, नोटिफ़िकेशन और Shortcuts की ज्ञात समस्याएँ, साथ ही अपेक्षित रिलीज़ की समय-सीमा शामिल है।
लेखक Suan एल्गोरिद्म प्रस्तुत करते हैं, जो मानक परिवर्तनात्मक अनुमान को छोड़कर सीधे ग्रेडिएंट स्तर पर प्रशिक्षण लक्ष्य निर्धारित करता है, जिससे प्रशिक्षण की गतिशीलता अधिक पूर्वानुमेय और व्याख्यायोग्य होती है। बेंचमार्क सेट पर परीक्षणों के परिणामों के अनुसार, यह विधि ओपन मॉडलों की विशिष्ट उत्तर-उपयोगिता हानि के बिना बेहतर सुरक्षा प्रदान करती है।
पाँच प्रसिद्ध मॉडल — GPT-4o से Llama-3.1 तक — एक ही टेक्स्ट पर अलग-अलग फैसले देते हैं, अगर वह उर्दू में लिखा हो, अंग्रेज़ी अनुवाद में नहीं: अंतर एक-तिहाई मामलों तक पहुँच जाता है, और स्पष्ट रूप से शत्रुतापूर्ण सामग्री का एक हिस्सा बिना चिह्नित किए रह जाता है। WOAH के नौ साल के प्रकाशनों के विश्लेषण से पता चला कि इसमें इस भाषा पर कोई अलग कार्य समर्पित नहीं है।
पार्कर फॉसेट का rebuild-dossier टूल सबसे पहले ऐप का असली इंटरफ़ेस तय करता है — कि इनपुट में वास्तव में क्या दिया जाता है और आउटपुट में क्या मिलना अनिवार्य है — और उसके बाद ही कोड लिखने की अनुमति देता है, बिल्ड को कदम-दर-कदम आगे बढ़ाते हुए। प्रयोगों ने एक अप्रिय बात दिखाई: जिस एजेंट ने ईमानदारी से नियमों का पालन किया, वह बाद की जाँच में फेल हो गया, जबकि नियम तोड़ने वाला सब कुछ पास कर गया — यानी सफलतापूर्वक पास किया गया टेस्ट-सेट सही होने का प्रमाण नहीं है, अगर टेस्टों को ही बायपास किया जा सके।
arXiv से एक नया प्रीप्रिंट जाँचता है कि क्या चाल चुनते समय भाषा मॉडल के स्व-मूल्यांकन पर भरोसा किया जा सकता है। छिपी "राजा" स्थिति वाले शतरंज प्रकार में, घोषित प्रायिकता ≥0.5 केवल 62 प्रयासों में से एक बार ही मोहरे की वास्तविक स्थिति से मेल खाई, और कैलिब्रेशन की लगभग पूरी कमी ठीक इन्हीं प्रकरणों में आई।
