أعلن أنثروبيك أن جميع النصوص التي يولدها نموذجه الرئيسي كلود سيتلقى قريباً علامات مائية غير مرئية. ويجري القيام بذلك امتثالا للمتطلبات التنظيمية المقبلة. The company has also disclosed technical details for the first time: previously, it was only known that the watermark does not alter content and does not add hidden characters to text.
كيف تعمل علامات الماء
وتستند هذه الطريقة إلى " SynthID-Text " ، وهي تكنولوجيا طورتها غوغل ديب ميند ونشرت في الطبيعة في عام 2024. الفكرة نفسها اقترحها سكوت ارونسون في عام 2022 خلال الجيل العادي، يختار النموذج الكلمة التالية باستخدام رقم عشوائي. وفي النسخة المميزة بالمياه، يستعاض عن العشوائية بوظيفة محددة: فهي تستخدم مفتاحا سريا وعدة كلمات سابقة. ونتيجة لذلك، فإن تسلسل الكلمات يبدو عشوائيا ولكنه ينطوي على نمط يمكن التحقق منه.
وفي كل خطوة، تنقسم جميع الكلمات المرشحة إلى " الخضراء " و " المئات " قوائم ويختار النموذج من القائمة الخضراء بصورة أكثر قليلا، ولكن الكلمات الحمراء غير محظورة - فهي ببساطة أقل احتمالا. ويتوقف تكوين القوائم على السياق والمفتاح، ولذلك لا توجد مجموعة محددة من الكلمات التي يمكن حفظها. أي شخص يحمل المفتاح يمكنه في أي وقت تحديد قائمة الكلمات التي وقعت في موقع معين بدون المفتاح هذا مستحيل
لفهم الفكرة، تخيل لعبة مونوبولي حيث يتم استبدال النرد بكتاب من الأرقام من بي. بالنسبة لمراقب خارجي، اللف يبدو عشوائيا، ولكن لاعب مع ذلك الكتاب يعرف كل الأرقام مسبقا. وبالمثل، فإن العلامة المائية لا تغير قواعد الجيل؛ بل تغير فقط مصدر العشوائية.
في جوهرها، هذا شكل من أشكال Steganography: المعلومات مخبأة في اختيار الكلمات نفسها، وليس في بطاقات تعريف واضحة. ولا تضيف العلامة المائية أي قيود على النص ولا تزيد تكلفة الجيل. ولا يمكن للقراء التمييز بين النص المميز بالماء والنص العادي إما بصريا أو بالأذن.
كيف يؤثر هذا على النوعية
وأجرى الأنثروبيك اختبارات داخلية ولم يجد أي أثر سلبي على المحتوى أو الإبداع أو القابلية للقراءة. وتحققت نتائج مماثلة في تجارب غوغل ديبميد مع نموذج غيميني: فلم تظهر تقديرات المستخدمين (مثلهم وذويهم) أي اختلافات هامة من الناحية الإحصائية بين الاستجابات المميزة والمعتادة. In a controlled study, experts comparing texts side by side also saw no difference.
The watermark contains no identifying information: it cannot reveal who interacted with the model, in which conversation, or when. ويسمح في معظم الحالات بحساب احتمال أن يكون النص قد صدر عن هذا النموذج بالذات. وفيما يتعلق بالعبارات القصيرة (تحت بضع عشرات الكلمات)، تنخفض دقة الكشف إلى الصفر: فالنص يحتاج إلى أن يكون طويلا بما يكفي لكي يصبح النمط الإحصائي ملحوظا.
ومن الجدير بالذكر أن النموذج لا يضطر أبدا إلى اختيار كلمات نادرة أو غير طبيعية. The green and red lists contain the same words the model considers in normal mode, so the text remains natural.
ما يلي:
ويشكل بدء تخصيص المياه جزءا من اتجاه أوسع نطاقا. واعتباراً من آب/أغسطس، سيشترط المنظمون على جميع مقدمي خدمات منظمة العفو الدولية وضع تعريف للمحتوى الذي أنشأته نماذجهم. وليس الأنثروبيك وحده: فقد وقعت شركات رئيسية أخرى التزامات صناعية مماثلة. تعمل بالفعل على مخططاتها الخاصة لتحديد المياه. وبالتالي أصبح وضع العلامات غير المرئية معياراً للصناعة وليس سمة فريدة من نوعها كلود.
ومن المسلم به أن التكنولوجيا تنطوي على قيود: فالاستخدام للمفتاح السري لا يسفر إلا عن تقدير محتمل لمصدر النص، وليس يقينا مطلقا. ومع ذلك، فإن ذلك يكفي للمنظمين ويوفر للمستعملين طبقة إضافية من الشفافية.
خلاصة القول: إن نص كلود الذي يميز المياه يمثل حلا وسطا بين الشفافية والتنظيم والملاءمة. ولا يؤثر ذلك عملياً على نوعية الجيل ويجعل من الممكن التحقق من مصدر النص دون المساس بخصوصية المستخدم.
