PerMIT: LLM एजेंटों की दीर्घकालिक स्मृति की अखंडता और मशीन-सत्यापन के साथ सामूहिक विश्वास

20 नवम्बर 20260 बार देखा गया

लेखक PerMIT आर्किटेक्चर प्रस्तुत करते हैं, जो एक सीमित मेमोरी इंटरफ़ेस के माध्यम से परिवेश से अविश्वसनीय डेटा को एजेंट की संवेदनशील कार्रवाइयों तक पहुँचने से रोकता है; Lean 4 में सत्यापित दो प्रमेय और समुदाय के निर्णयों का संचय, किसी एक उपयोगकर्ता पर भार बढ़ाए बिना, विषाक्तकरण के जोखिम को घटाते हैं। Trojan Hippo और τ²-bench पर किए गए प्रयोगों में, हल्के सत्यापनकर्ताओं के साथ इस योजना ने किसी भी सफल इंजेक्शन को दर्ज नहीं किया और विलंबित कार्यों पर नए एजेंटों के परिणाम बेहतर किए।

PerMIT: LLM एजेंटों की दीर्घकालिक स्मृति की अखंडता और मशीन-सत्यापन के साथ सामूहिक विश्वास

PerMIT — LLM एजेंटों के लिए मेमोरी आर्किटेक्चर। Tanqiu Jiang, Min Bai, Sadat Shahriar, Wanyu Du और Sandesh Swamy का लेख 20 अक्टूबर 2026 को प्रस्तुत किया गया; arXiv:2610.28987।

विश्वास मॉडल

PerMIT विश्वास के बारे में एक स्पष्ट धारणा तय करता है। केवल उपयोगकर्ता द्वारा दर्ज किया गया डेटा और गेट पर पुष्टि किए गए मान ही विश्वसनीय माने जाते हैं। परिवेश से प्राप्त सभी मान अविश्वसनीय रहते हैं। आर्किटेक्चर एक सीमित मेमोरी इंटरफ़ेस के ज़रिए उनके हस्तांतरण और उपयोग को नियंत्रित करता है। एजेंट की कई चरणों वाली योजना और टूल का चयन बरकरार रहते हैं।

व्यावहारिक मानदंड: यह दृष्टिकोण उन परिस्थितियों के लिए उपयुक्त है जहाँ उपयोगकर्ता का इनपुट विश्वसनीय माना जाता है, जबकि परिवेश का डेटा नहीं।

गेट और सत्यापन योग्य निर्णय

सीमित मेमोरी इंटरफ़ेस गेट पर निर्भर करता है। लेखक इस इंटरफ़ेस के लिए अखंडता के दो प्रमेय सिद्ध करते हैं। Lean 4 में इन प्रमेयों की मशीन द्वारा जाँच की गई है। दोनों मिलकर दो गुणों की गारंटी देते हैं। परिवेश की मेमोरी किसी संवेदनशील कार्रवाई तक तभी पहुँचती है, जब गेट पर उसकी पुष्टि हो जाए। एजेंट का व्यवहार केवल उसी चीज़ के ज़रिए बदलता है जिसे गेट दिखाता है।

खतरे के मॉडल के तहत, हर हमले को एक सत्यापन योग्य निर्णय तक सीमित किया जा सकता है। व्यवहार में यह निर्णय कोई व्यक्ति, LLM वेरिफ़ायर या दोनों लेते हैं।

व्यावहारिक मानदंड: यह सुरक्षा उन खतरे के मॉडलों में लागू की जा सकती है जहाँ हमले को एक सत्यापन योग्य निर्णय तक सीमित किया जा सके।

पुष्टियाँ और सामूहिक विश्वास

हर पुष्टि किसी सटीक सामग्री के बारे में दर्ज किया गया निर्णय होती है। अलग-अलग उपयोगकर्ताओं की पुष्टियाँ एकत्र होती जाती हैं। पर्याप्त समर्थन वाले आइटम बिना आगे की जाँच के समुदाय द्वारा पुष्ट हो जाते हैं।

स्पष्ट मान्यताओं के तहत लेखक सामूहिक विस्तारशीलता का गुण सिद्ध करते हैं। वे सिमुलेशन में इसकी पुष्टि भी करते हैं। समुदाय के बढ़ने के साथ, विषाक्त डेटा को आगे बढ़ाने और अच्छे ज्ञान को गलती से हटाने के जोखिम घटते हैं। किसी एक उपयोगकर्ता को जाँच के लिए ज़्यादा मेहनत नहीं करनी पड़ती।

समुदाय के बढ़ने पर क्या बदलता हैदिशा
विषाक्त डेटा को आगे बढ़ाने का जोखिमघटता है
अच्छे ज्ञान को गलती से हटाने का जोखिमघटता है
किसी एक उपयोगकर्ता की जाँच की मेहनतनहीं बढ़ती

व्यावहारिक मानदंड: सामूहिक परत तब उपयुक्त है, जब निर्णय सटीक सामग्री से जुड़े हों और अलग-अलग उपयोगकर्ताओं से एकत्र होते जाएँ।

परीक्षण

Trojan Hippo पर PerMIT ने हमलों की कोई देखी गई सफलता नहीं दिखाई। यह परिणाम स्वयं-जाँच और हल्के वेरिफ़ायर के उपयोग से प्राप्त हुआ।

τ²-bench पर, 90 तक स्वायत्त एजेंटों वाले समुदाय PerMIT की मदद से साझा ज्ञान-आधार बनाते हैं। मेमोरी में कोई भी प्रत्यक्ष इंजेक्शन आगे नहीं बढ़ाया गया। प्राप्त ज्ञान से नए एजेंटों के विलंबित कार्यों पर प्रदर्शन में उल्लेखनीय सुधार होता है।

व्यावहारिक मानदंड—दो परिणाम: प्रत्यक्ष इंजेक्शन आगे न बढ़ें और विलंबित कार्यों पर नए एजेंटों के प्रदर्शन में सुधार हो।

अक्सर पूछे जाने वाले प्रश्न

समान सामग्री

सभी सामग्री
सिर और गर्दन के ट्यूमर के लिए प्रोटॉन उपचार-योजना हेतु साक्ष्य-आधारित चक्र वाली संयुक्त मल्टी-एजेंट एआई प्रणाली
समाचार

सिर और गर्दन के ट्यूमर के लिए प्रोटॉन उपचार-योजना हेतु साक्ष्य-आधारित चक्र वाली संयुक्त मल्टी-एजेंट एआई प्रणाली

यह कार्य प्रशिक्षित PPO नीति, जो योजना के कई विकल्प देती है, और LLM एजेंटों के संयोजन का वर्णन करता है, जो नैदानिक मेट्रिक्स और बाधाओं की जाँच के साथ संवाद के माध्यम से आवश्यकताओं को स्पष्ट करते हैं; 21 रोगियों के डेटा पर Qwen3-14B को फ़ाइन-ट्यून करने से उसने निर्देशों का बेहतर पालन किया और प्राथमिकता वाले लक्ष्यों के पक्ष में समझौते को मोड़ने में मदद की। व्यावहारिक निष्कर्ष यह है कि प्रतिस्पर्धी बाधाओं पर नियंत्रण बनाए रखते हुए स्वचालित DRL योजना को निर्देशित संवाद से पूरक किया जा सकता है।

20 नवम्बर 2026
अनुभवजन्य परीक्षण के बजाय कम्प्यूटेशनल चयन: बैटरी सामग्रियों के लिए नए दृष्टिकोण
अनुसंधान

अनुभवजन्य परीक्षण के बजाय कम्प्यूटेशनल चयन: बैटरी सामग्रियों के लिए नए दृष्टिकोण

यह सामग्री दिखाती है कि गणनात्मक डेटाबेस, मशीन लर्निंग और जनरेटिव मॉडल संभावित संरचनाओं के दायरे को सीमित करते हैं, जबकि स्वचालित प्रयोगशालाएँ उनकी जाँच तेज़ करती हैं; फिर भी अंतिम परिणाम संश्लेषण और परीक्षण पर निर्भर करता है, जहाँ पूर्वानुमान वास्तविक चालकता से अलग हो सकता है।

20 नवम्बर 2026
कार्य-पूल के विस्तार के साथ एजेंटिक परीक्षण मंचों का विकास: साक्ष्य चयन और क्रमिक दौड़ों की भूमिका
समाचार

कार्य-पूल के विस्तार के साथ एजेंटिक परीक्षण मंचों का विकास: साक्ष्य चयन और क्रमिक दौड़ों की भूमिका

यह कार्य बताता है कि कार्यों की संख्या बढ़ाने से एजेंटिक टेस्टबेड्स का विकास क्यों बिगड़ सकता है: वजह डेटा की मात्रा नहीं, बल्कि साक्ष्यों का गलत चयन है। प्रस्तावित Successive Scale Racing बारी-बारी से विविध कार्य-संयोजनों का चयन करता है और कम लागत में उम्मीदवारों की तुलना करता है; तीन बेंचमार्क पर, पूल को 40 से बढ़ाकर 200 करने पर इसने सफल रन का अनुपात बढ़ाया, जबकि बेसलाइन विधियों का प्रदर्शन गिरा और सत्यापन रन लगभग 60% कम हो गए।

19 नवम्बर 2026
PerMIT: LLM एजेंटों की दीर्घकालिक स्मृति की अखंडता और मशीन-सत्यापन के साथ सामूहिक विश्वास