ভাষা মডেল দ্বারা লিখিত লেখাগুলো মানুষের লেখা থেকে বিচ্ছিন্ন হয়ে যাচ্ছে। স্বচ্ছতা বজায় রাখার জন্য ডেভেলপারগণ লুকানো চিহ্ন প্রয়োগ করা হচ্ছে। এ ধরনের একটি প্রকল্প এনথ্রোপিক-এর সামনে রয়েছে: Claude একটি নির্মিত পানির মার্ক পাওয়া যাবে যা এর উৎস খুঁজে বের করতে পারবে।
কেন একজন অদৃশ্য চিহ্ন প্রয়োজন
চিহ্নিত পানি থেকে Claude এই নির্দিষ্ট মডেলের দ্বারা তৈরি একটা শাস্ত্রপদ কীভাবে তৈরি করা হয়েছে, তা কল্পনা করুন । এই নিষেধাজ্ঞা আরোপ করা হয়েছে: ২ আগস্ট থেকেচি প্রদানকারী প্রতিষ্ঠানসমূহ যাতে টিকে থাকতে পারে তার জন্য প্রয়োজনীয় তথ্য প্রদান করা হয়েছে। একটি নির্মিত মার্কার এই বাধ্যবাধকতা পূরণ করার একটি উপায়।
গুরুত্বপূর্ণ বিষয় হল, চিহ্নগুলো পাঠকের কাছে সম্পূর্ণ অদৃশ্য । কোম্পানির মতে, গুণমানের ওপর কোন প্রভাব ফেলে না প্রতিক্রিয়া, তাদের সৃষ্টিশীলতা, অথবা পড়ার ক্ষমতা। সেই পাঠ্যাংশে কোনো দৃশ্যমান অক্ষর, গুপ্ত চরিত্র অথবা অতিরিক্ত সংকেত নেই — আর তাই অতিরিক্ত কোনো অর্থ নেই । চিহ্ন সহ কোনো ব্যক্তিগত তথ্য উপস্থিত নেই: এটি একটি নির্দিষ্ট ব্যবহারকারী, সংগঠন অথবা স্বতন্ত্র আড্ডার সাথে যুক্ত করা যাবে না।
প্রযুক্তি: এটা কিভাবে কাজ করে
কীভাবে ভাষার মডেলগুলো কাজ করে তার ওপর ভিত্তি করে এই নীতিটি ব্যবহৃত হয়। মডেলটি একবারে একটি শব্দ উৎপন্ন করেছে, যা সম্ভবত একটি সম্ভাব্য বিকল্প নির্বাচন করা হয়েছে। কিছু কিছু ক্ষেত্রে, বাছাই করার ক্ষেত্রে এর কোনো প্রভাব নেই — উদাহরণস্বরূপ, যখন সমন্বন্য বা ছোট আকারের বৈশিষ্ট্যগুলো গ্রহণযোগ্য । এই "লোপেস" পয়েন্টটা হচ্ছে পানির নিচে কী আছে।
স্বাভাবিক মোডে, মডেলটি এলোমেলোতার উৎসের ওপর নির্ভর করে। এর পরিবর্তে, এটা একটা মূল শব্দ এবং আগের বেশ কিছু শব্দ দ্বারা নির্ধারিত হয় । এটা একটা প্যাটার্ন তৈরি করে, যা মানুষের কাছে অদৃশ্য কিন্তু সম্ভব যখন সেটা পাওয়া যায়, তখন নিশ্চিতভাবেই সম্ভব ।
গুরুত্বপূর্ণভাবে, চিহ্নিত চিহ্নকে জোর করে প্রভাবিত করে না মডেলকে অস্বাভাবিক শব্দ বা বিরল শব্দ বেছে নিতে। শব্দভাণ্ডার স্বাভাবিক সীমার মধ্যে থাকে; সীমিত স্থান পরিবর্তন করার একমাত্র যুক্তি ।
ব্যবহৃত পদ্ধতি Claude ২০২৪ সালে প্রকৃতিতে প্রকাশিত গুগল ডিপইনড এর সিন-আইডি-এর সিনথেটিক পদক্ষেপের সাথে খাপ খাইয়ে নেয়া হয়েছে। স্কট অ্যারনসনের ২০২২ সালের প্রস্তাবে ফিরে এসেছে: শুধু এলোমেলোতার উৎস পরিবর্তন করা, মডেলটির অন্যান্য আচরণের সাথে হস্তক্ষেপ না করে।
চাপ ও সীমাবদ্ধতা
জলবিষ্যৎ লেখকত্বের সম্পূর্ণ প্রমাণ নয়। এটি শুধুমাত্র একজন অন্তর্জালিক ধারণা প্রদান করতে পারে — যে - পাঠ্যাংশগুলো পরিচিত একটা চাবির সঙ্গে কতটা সামঞ্জস্যপূর্ণ । এটা নিশ্চিত করা অসম্ভব যে, একটা মডেল বা অন্য কারো দ্বারা তৈরি একটা পাঠ্যাংশের দ্বারা গঠিত হয়েছে এবং অনুশীলন করা গুরুত্বপূর্ণ ।
কি জানতে হবে
- মার্কার ১০০% নিশ্চয়তা দেয় না, শুধু পরিসংখ্যান আস্থা।
- এমন কোন তথ্য নেই যা কোন ব্যক্তি বা সংস্থাকে খুঁজে বের করতে পারে।
- পদ্ধতিটি চিহ্নিত বিন্যাস বর্তমানে উপস্থিত নেই Claude ▪ অন্যান্য প্রধান ডেভেলপাররা তাদের নিজেদের জলকে নিয়ন্ত্রণ করছে ।
এন্থোপিক-এর অভ্যন্তরীণ পরীক্ষা এই বিষয়ে কোন ক্ষতি করেনি। গুগল ডিপাইনড-এর গবেষণা ব্যবহারকারী রেটিংের ক্ষেত্রে কোন পরিসংখ্যানগত পার্থক্য দেখা যায়নি: জনগণ মার্কার ছাড়া লেখার মধ্যে কোন পার্থক্য দেখতে পায়নি। তাই পানির দাগ স্বচ্ছতা আর প্রাকৃতিকতার মধ্যে একটা সমঝোতায় রয়ে গেছে- তারা মডেলের অপারেশনে বাধা দেয়া বা ব্যবহারকারীর তথ্য প্রকাশ না করে বিষয়বস্তুর সত্যতা যাচাই করতে দেয়।
