एन्थ्रोपिक ने घोषणा की है कि इसके फ्लैगशिप मॉडल द्वारा उत्पन्न सभी ग्रंथों की घोषणा की गई है। क्लाउड जल्द ही अदृश्य वॉटरमार्किंग प्राप्त होगा। यह आगामी नियामक आवश्यकताओं का पालन करने के लिए किया जा रहा है। कंपनी ने पहली बार तकनीकी विवरणों का खुलासा भी किया है: पहले, यह केवल ज्ञात था कि वॉटरमार्क सामग्री को परिवर्तित नहीं करता है और पाठ में छिपे हुए अक्षरों को नहीं जोड़ता है।
वॉटरमार्किंग कैसे काम करता है
यह विधि SynthID-Text पर आधारित है, जो Google Deepmind द्वारा विकसित एक तकनीक है और 2024 में प्रकृति में प्रकाशित हुई है। इस विचार का प्रस्ताव स्कॉट आरोनसन ने 2022 में वापस किया था। सामान्य पीढ़ी के दौरान, मॉडल यादृच्छिक संख्या का उपयोग करके अगले शब्द का चयन करता है। वॉटरमार्केड संस्करण में, यादृच्छिकता को एक निश्चित कार्य द्वारा प्रतिस्थापित किया जाता है: यह एक गुप्त कुंजी और कई पिछले शब्दों का उपयोग करता है। नतीजतन, शब्दों का अनुक्रम यादृच्छिक दिखता है लेकिन एक पैटर्न को सत्यापित किया जा सकता है।
प्रत्येक चरण में सभी उम्मीदवार शब्दों को विभाजित किया जाता है "ग्रीन" और "लाल" सूची मॉडल अक्सर हरे रंग की सूची से चुनता है, लेकिन लाल शब्दों को मना नहीं किया जाता है - वे केवल कम होने की संभावना रखते हैं। सूची की संरचना संदर्भ और कुंजी पर निर्भर करती है, इसलिए उन शब्दों का कोई निश्चित सेट नहीं है जिन्हें याद किया जा सकता है। जो कोई भी कुंजी रखता है वह किसी भी समय निर्धारित कर सकता है कि किसी विशेष शब्द को किसी विशेष स्थिति में बदल दिया गया है। कुंजी के बिना, यह असंभव है।
विचार को समझने के लिए, मोनोपोली के एक खेल की कल्पना करें जहां पासा को पीआई से अंकों की एक पुस्तक द्वारा प्रतिस्थापित किया जाता है। एक बाहरी पर्यवेक्षक के लिए, रोल यादृच्छिक लगता है, लेकिन उस पुस्तक के साथ एक खिलाड़ी अग्रिम में सभी संख्याओं को जानता है। इसी तरह, वॉटरमार्क पीढ़ी के नियमों को नहीं बदलता है; यह केवल यादृच्छिकता के स्रोत को बदलता है।
संक्षेप में, यह का एक रूप है स्टेग्नोग्राफी: सूचना स्वयं शब्दों की पसंद में छिपाई जाती है, स्पष्ट लेबल में नहीं। वॉटरमार्क पाठ में कोई टोकन नहीं जोड़ता है और पीढ़ी की लागत में वृद्धि नहीं करता है। पाठक साधारण पाठ से या तो दृष्टि से या कान से वॉटरमार्क पाठ को अलग नहीं कर सकते।
यह गुणवत्ता को कैसे प्रभावित करता है
एंथ्रोपिक रन आंतरिक परीक्षण और सामग्री, रचनात्मकता, या पठनीयता पर कोई नकारात्मक प्रभाव नहीं मिला। इसी तरह के परिणाम जेमिनी मॉडल के साथ गूगल डीपमिनेड प्रयोगों में प्राप्त हुए: उपयोगकर्ता रेटिंग (जैसे और नापसंद) ने वॉटरमार्क और साधारण प्रतिक्रियाओं के बीच कोई सांख्यिकीय रूप से महत्वपूर्ण अंतर नहीं दिखाया। एक नियंत्रित अध्ययन में, विशेषज्ञों ने पाठ पक्ष की तुलना में पक्ष भी कोई फर्क नहीं पड़ता।
वॉटरमार्क में कोई पहचान की जानकारी नहीं है: यह खुलासा नहीं कर सकता कि किसने मॉडल के साथ बातचीत की, जिसमें चैट, या कब शामिल है। अधिकांशतः, यह संभावना की गणना करने की अनुमति देता है कि पाठ इस विशेष मॉडल द्वारा उत्पन्न किया गया था। लघु वाक्यांशों के लिए (कुछ दर्जन शब्दों के तहत), पता लगाने की सटीकता शून्य हो जाती है: पाठ को ध्यान देने योग्य होने के लिए सांख्यिकीय पैटर्न के लिए काफी लंबा होना चाहिए।
विशेष रूप से, मॉडल को कभी भी दुर्लभ या अप्राकृतिक शब्दों का चयन करने के लिए मजबूर नहीं किया जाता है। हरे और लाल सूची में समान शब्द होते हैं जो मॉडल सामान्य मोड में विचार करता है, इसलिए पाठ प्राकृतिक रहता है।
आगे क्या है
वॉटरमार्किंग का रोलआउट एक व्यापक प्रवृत्ति का हिस्सा है। अगस्त में शुरू होने के बाद नियामकों को अपने मॉडल द्वारा बनाई गई सामग्री को लेबल करने के लिए सभी एआई सेवा प्रदाताओं की आवश्यकता होगी। अन्य प्रमुख कंपनियों ने समान उद्योग प्रतिबद्धताओं पर हस्ताक्षर किए हैं और पहले से ही अपने स्वयं के वॉटरमार्किंग योजनाओं पर काम कर रहे हैं। अदृश्य लेबलिंग इस प्रकार एक उद्योग मानक बन रहा है, नहीं की एक अनूठी विशेषता क्लाउड।
वास्तव में, प्रौद्योगिकी की सीमाएं हैं: गुप्त कुंजी का उपयोग केवल पाठ की उत्पत्ति का एक संभावित अनुमान है, न कि पूर्ण निश्चितता। फिर भी, यह नियामकों के लिए पर्याप्त है और उपयोगकर्ताओं को पारदर्शिता की एक अतिरिक्त परत प्रदान करता है।
नीचे पंक्ति: वॉटरमार्किंग क्लाउड का पाठ पारदर्शिता, विनियमन और सुविधा के बीच एक समझौता है। इसमें पीढ़ी की गुणवत्ता पर लगभग कोई प्रभाव नहीं पड़ता है और उपयोगकर्ता की गोपनीयता से समझौता किए बिना पाठ की उत्पत्ति को सत्यापित करना संभव बनाता है।
