अदृश्य फिंगरप्रिंट: क्लाउड वॉटरमार्क अपने ग्रंथों को कैसे चिह्नित करता है

भाषा मॉडल द्वारा लिखे गए पाठ मानव-लिखित लोगों से अलग होने के लिए तेजी से कठिन हो रहे हैं। पारदर्शिता बनाए रखने के लिए, डेवलपर्स छिपे हुए मार्करों को लागू कर रहे हैं। ऐसी परियोजना एन्थ्रोपिक में है: भविष्य के संस्करण Claude एक अंतर्निहित वॉटरमार्क प्राप्त करेगा जो पाठ की उत्पत्ति को सत्यापित करना संभव बना देगा।

क्यों एक अदृश्य मार्कर की जरूरत है

से वॉटरमार्क Claude एक सांख्यिकीय अनुमान प्रदान करने के लिए डिज़ाइन किया गया है - यह कैसे संभावना है कि इस विशेष मॉडल द्वारा दिए गए पाठ को बनाया गया था। इम्पेटस विनियमन था: 2 अगस्त से, एआई प्रदाताओं के लिए सिंथेटिक सामग्री लेबल करने की आवश्यकता है। एक अंतर्निहित मार्कर इस दायित्व को पूरा करने का एक तरीका है।

वास्तव में, अंकन पाठक के लिए पूरी तरह से अदृश्य है। कंपनी के अनुसार, यह गुणवत्ता को प्रभावित नहीं करता है जवाब, उनकी रचनात्मकता, या पठनीयता। पाठ में कोई दृश्य परिवर्धन, छिपे हुए अक्षर या अतिरिक्त टोकन नहीं मिलते हैं - और इसलिए इसके लिए कोई अतिरिक्त कम्प्यूटेशनल लागत की आवश्यकता नहीं है। मार्कर में कोई व्यक्तिगत डेटा भी नहीं है: इसका उपयोग किसी विशिष्ट उपयोगकर्ता, संगठन या व्यक्तिगत चैट के साथ पाठ को जोड़ने के लिए नहीं किया जा सकता है।

प्रौद्योगिकी: यह कैसे काम करता है

सिद्धांत इस बात पर आधारित है कि भाषा मॉडल कैसे काम करते हैं। मॉडल एक समय में पाठ एक शब्द उत्पन्न करता है, जो सबसे अधिक संभावना विकल्प चुनता है। कुछ मामलों में, विकल्प में लगभग अर्थ पर कोई प्रभाव नहीं होता है - उदाहरण के लिए, जब समानार्थक शब्द या मामूली स्टाइलिस्टिक रूप स्वीकार्य होते हैं। ये "कम दांव" अंक हैं जो वॉटरमार्क लेते हैं।

सामान्य मोड में, मॉडल यादृच्छिकता के अपने स्रोत पर निर्भर करता है। वॉटरमार्क इसे बदलता है: अगले शब्द का विकल्प एक कुंजी और कई पूर्ववर्ती शब्दों द्वारा निर्धारित किया जाता है। यह प्रतिक्रिया में एक पैटर्न बनाता है जो मनुष्यों के लिए अदृश्य होता है लेकिन जब कुंजी उपलब्ध होती है - यह मापने के द्वारा कि अनुक्रम किस प्रकार कुंजी के साथ होता है, वह संभावना का अनुमान लगा सकता है कि पाठ मॉडल द्वारा उत्पन्न किया गया था।

वास्तव में, अंकन मॉडल को "nubilous" जैसे अप्राकृतिक शब्दों या दुर्लभ समानार्थक शब्द चुनने के लिए मजबूर नहीं करता है। शब्दावली सामान्य सीमा के भीतर रहती है; केवल संकीर्ण स्पॉट परिवर्तनों में पसंद का तर्क।

द्वारा उपयोग की जाने वाली विधि Claude Google DeepMind के SynthID-Text दृष्टिकोण का अनुकूलन, 2024 में प्रकृति में प्रकाशित हुआ। यह विचार स्वयं स्कॉट आरोनसन द्वारा 2022 प्रस्ताव पर वापस जाता है: मॉडल के बाकी व्यवहार के साथ हस्तक्षेप किए बिना केवल यादृच्छिकता का स्रोत बदल जाता है।

सत्यापन और सीमाएं

वॉटरमार्क प्राधिकरण का पूर्ण प्रमाण नहीं है। यह केवल एक probabilistic आकलन प्रदान कर सकते हैं - कैसे संगत पाठ एक ज्ञात कुंजी के साथ है। यह निश्चित रूप से पुष्टि करना असंभव है कि एक पाठ एक मॉडल या किसी अन्य द्वारा उत्पन्न किया गया था, और यह व्यवहार में ध्यान रखने के लिए महत्वपूर्ण है।

आपको क्या पता होना चाहिए

• मार्कर 100% गारंटी नहीं देता, केवल सांख्यिकीय विश्वास।
• इसमें कोई जानकारी नहीं है जिसका उपयोग किसी व्यक्ति या संगठन को ट्रैक करने के लिए किया जा सकता है।
• तंत्र है अद्वितीय नहीं Claude - अन्य प्रमुख डेवलपर्स अपने स्वयं के वॉटरमार्क लागू कर रहे हैं।

एंथ्रोपिक के आंतरिक परीक्षणों को प्रतिक्रियाओं की पर्याप्त गुणवत्ता में कोई गिरावट नहीं मिली। Google DeepMind के शोध ने उपयोगकर्ता रेटिंग में कोई सांख्यिकीय रूप से महत्वपूर्ण अंतर नहीं दिखाया: लोगों ने मार्कर के साथ और बिना पाठों के बीच कोई अंतर नहीं देखा। इसलिए वॉटरमार्क पारदर्शिता और प्राकृतिकता के बीच एक समझौता रहते हैं - वे मॉडल के संचालन में बाधा डालने या उपयोगकर्ता डेटा को उजागर किए बिना सामग्री मूल के स्वचालित सत्यापन की अनुमति देते हैं।