البصمات غير المرئية: كيف أن (كلود) يضع علامات على نصوصه

وأصبح من الصعب بصورة متزايدة التمييز بين النصوص المكتوبة بالنماذج اللغوية والنماذج الكتابية البشرية. وللحفاظ على الشفافية، يقوم المطورون بتنفيذ علامات خفية. One such project is at Anthropic: future versions of Claude وستتلقى علامة مائية مدمجة تتيح التحقق من مصدر النص.

لماذا تحتاج علامة غير مرئية

علامة الماء من Claude والغرض من ذلك هو توفير تقدير إحصائي - أي مدى يحتمل أن يكون نص معين قد وضعه هذا النموذج بالذات. وكان الدافع هو التنظيم: فمنذ 2 آب/أغسطس، كان هناك حاجة إلى أن يصف مقدمو خدمات تكنولوجيا المعلومات المحتوى التركيبي. والعلامة المبنية هي إحدى الطرق للوفاء بهذا الالتزام.

من المهم أن الوسم غير مرئي تماماً للقراء وفقاً للشركة لا يؤثر على الجودة الردود أو إبداعها أو قابليتها للقراءة. ولا يتلقى النص أي إضافات واضحة، أو طابعات خفية، أو كسور إضافية - وبالتالي لا يحتاج إلى تكاليف حسابية إضافية. ولا يتضمن المؤشر أيضا بيانات شخصية: لا يمكن استخدامه لربط النص بمستعمل محدد أو منظمة معينة أو دردشة فردية.

التكنولوجيا: كيف تعمل

ويستند هذا المبدأ إلى كيفية عمل النماذج اللغوية. ويولد النموذج نصاً واحداً في كل مرة، ويختار الخيار الأكثر احتمالاً. وفي بعض الحالات، لا يكون للخيار أي أثر على المعنى تقريبا - مثلا عندما تكون المرادفات أو الاختلافات الافتراضية الطفيفة مقبولة. هذه النقاط "المقلدة" هي ما يحمل علامة الماء.

في الحالة الطبيعية، يعتمد النموذج على مصدر عشوائي خاص به. والعلامة المائية تحل محلها: فاختيار الكلمة التالية يحدده مفتاح وعدة كلمات سابقة. وهذا يخلق نمطا في الاستجابة غير مرئية للبشر ولكن يمكن التحقق منه عندما يكون المفتاح متاحا - عن طريق قياس مدى اتساق التسلسل مع المفتاح، يمكن للمرء أن يقدر احتمال أن يكون النص متولدا عن النموذج.

مهماً، الوسم لا يُجبر النموذج على اختيار كلمات غير طبيعية أو مرادفات نادرة مثل "مذهل" The vocabulary stays within the usual range; only the logical of choice in narrow spots changes.

الطريقة التي استخدمها Claude هو تكييف لنهج غوغل ديب ميند SynthID-Text، المنشور في الطبيعة في 2024. الفكرة نفسها تعود إلى اقتراح عام 2022 من قبل سكوت هارونسون تغيير مصدر عشوائي فقط دون التدخل في بقية سلوك النموذج

التحقق والحدود

العلامة المائية ليست دليلاً مطلقاً على الصلاحية ولا يمكن أن يقدم إلا تقديرا محتملا - أي مدى اتساق النص مع مفتاح معروف. ومن المستحيل التأكيد بصورة نهائية على أن نصاً قد صدر بنموذج أو بنموذج آخر، ومن المهم مراعاة ذلك عملياً.

ما تحتاج معرفته

• العلامة لا تقدم ضمانة 100% فقط ثقة إحصائية
• ولا يتضمن أي معلومات يمكن استخدامها لتعقب شخص أو منظمة.
• الآلية هي ليس فريد من نوعه Claude - يقوم مطورون رئيسيون آخرون بتنفيذ علاماتهم المائية الخاصة بهم.

اختبارات (أنثروبيك) الداخلية لم تجد أي تدهور في الجودة الفنية للردود بحث (غوغل ديبميند) أيضاً لم يظهر أي اختلافات ذات شأن إحصائياً في تقديرات المستخدمين الناس لم يروا أي فرق بين الرسائل و بدون العلامة إذاً العلامات المائية تبقى حلاً وسطاً بين الشفافية والطبيعية تسمح بالتحقق الآلي من مصدر المحتوى دون إعاقة عملية النموذج أو كشف بيانات المستخدمين