চ্যাটজিপি'স গব্লিন গ্লিলিন: কেন এই মডেল গব্লিন এবং গ্রেমলিন এর কথা বলছে

ভূমিকা

সাম্প্রতিক সপ্তাহগুলোতে, ব্যবহারকারীদের ChatGPT তারা একটি নতুন খেলা খুঁজে পেয়েছে: তারা একে অপরকে একটি স্ক্রিনশট পাঠায় যেখানে চ্যাটবোবোব হঠাৎ করে গবলিন, গ্রিমলিন আর অন্যান্য প্রাণী নিয়ে কথা বলে। মনে হচ্ছে নিউরাল নেটওয়ার্ক কিছু দ্রুত অভ্যাস গড়ে তুলেছে আর এখন অদ্ভুত শব্দ সব থেকে সাধারণ উত্তর পেয়ে গেছে। আসুন আমরা বের করি এটা কি এবং কেন ওপেনএআই এই সমস্যা আনুষ্ঠানিকভাবে স্বীকার করেছে।

ব্যবহারকারীরা ব্যতিক্রমটি কিভাবে লক্ষ্য করেছেন

এই অস্বাভাবিক আচরণ প্রথমে ফোরামে আলোচনা করা হয় GPT-5.5 আর কোডেক্স. ব্যবহারকারীরা ডায়ালগ পোস্ট করেছে যার মধ্যে মডেল “গবলিন মোড”, “গোবলিন”, এবং “পেট্রোমিলিন” এর উল্লেখ রয়েছে। প্রথমে এটাকে এলোমেলো গলি হিসাবে বাতিল করা হয়, কিন্তু স্ক্রিনশটটি আরো বাড়তে থাকে। এটা পরিষ্কার হয়ে গিয়েছিল: মডেলটি নির্দিষ্ট কিছু শব্দ দিয়ে ঠিক করা হয়েছে, আর এটা বিভিন্ন যোগাযোগ ব্যবস্থার মাধ্যমে ঘটেছে।

একজন আলোচনায় অংশগ্রহণকারী আবিষ্কার করেন যে, কোডেক্সের পদ্ধতি স্পষ্টভাবে গবলিন, রিউলিন, রুকুন, ট্রন, ট্রাজেস এবং অন্যান্য কাল্পনিক প্রাণীকে নির্দেশ করে না- যদি না তারা ব্যবহারকারীর অনুরোধে সংশ্লিষ্ট হয়। অন্য কথায়, ডেভেলপার ইতোমধ্যে সমস্যা সম্পর্কে অবগত এবং এতে প্রবেশ করার চেষ্টা করছেন। কিন্তু পুরোপুরি না।

কি পাওয়া গেলেও খুলুন

গত ২৯ এপ্রিল তারিখে ওপেনএআই একটি আনুষ্ঠানিক লেখা প্রকাশ করে, যার শিরোনাম “যেখানে গবলিনগুলো কোথা থেকে এসেছে”। তাতে কোম্পানীটি স্বীকার করেছে যে জিটিপি এবং কোডেক্স ক্রমাগত এক “স্রোতের অভ্যাস গড়ে তুলেছে- এই মডেল সাবলিনের মত শব্দ যোগ করেছে, এমনকি যখন ব্যবহারকারীরা তাদের দাবী করেনি।

তথ্য অনুসারে জিপিটি-৫. ১ চালু করার পর, এই শব্দ অব গব্লিনের সংখ্যা বেড়ে ১৭৫ শতাংশ বৃদ্ধি পেয়েছে এবং ৫২% গ্রিমলিনের সাড়া প্রদান করেছে। ভাবো বিকালবেলার কথা । GPT-5.5 মুক্তি পাওয়া গেছে, এটা এতই উল্লেখযোগ্য যে বিশেষ নিষেধাজ্ঞা ছিল। কোডেক্স চালু করা হবে. তারপরেও, ব্যাপারটা পুরোপুরি মুছে ফেলা সম্ভব না।

কেন ঘটেছে: প্রতিক্রিয়া লুপ

একটি প্রকাশ্য প্রতিক্রিয়ায় স্যাম আল্টম্যান বলেছেন যে কি ঘটছে 'গবলিন মুহূর্ত'। কিন্তু মজার ব্যাপারগুলো আরো গভীরে প্রবেশ করে। একটি অভ্যন্তরীণ অডিশন দেখিয়েছে যে সাধারণত নেরডি ব্যক্তিত্বে দেখা যায়। এই ধরনের বিন্যাস মাত্র ২.৫% ব্যবহার করা হয়েছে ChatGPT তার প্রতিক্রিয়ায় জানা গেছে যে ৬৬. ৭% শব্দ নিয়ে কথা বলা হয়েছে। প্রায় সকল সমস্যার ক্ষেত্রে বিশেষ করে 'নরডি' স্বরের সাথে যুক্ত করা হয়েছে।

৯০. ২% ডাটাসেটস দ্বারা গঠিত এনরিডি মোড এর জন্য পুরস্কার সংকেত। অন্য কথায়, এই মডেলটি “চমৎকার” শব্দ ব্যবহার করে ইতিবাচক শক্তি লাভ করেছে এবং যেটা অন্যান্য সংকেতকে আরও কমিয়ে দিয়েছিল.

ওপেনএআই পরিস্থিতিকে একটি ক্লাসিক প্রতিক্রিয়া হিসেবে বর্ণনা করেছে: মডেলটি একটি নাটক স্টাইলের জন্য পুরস্কার লাভ করেছে; খেলার স্টাইলটি অনেক সময় চলে যায়। একই ধরনের প্রতিক্রিয়া পরবর্তী সময়ে ভাল সাড়া প্রদান করা হয়; যার ফলে মৌখিক ভাষায় আরো বেশী গৃহিত হয়। প্রতিটি চক্রের সাথে, “গবলিন” আরো কঠোর হয়ে ওঠে যতক্ষণ না তারা সবচেয়ে বাজে জায়গায় প্রবেশ করতে শুরু করে।

ব্যবহারকারীদের জন্য এর মানে কি

যদি আপনি একটি পপ-আপ চালু করে থাকেন গ্রিমলিনদের সম্পর্কে কথা বলতে বা "গব্লিলিন সমাধান" বলতে জানেন যে এটা কোন কল্পনাশক্তি নয়। এই আচরণ রেকর্ড করা হয়েছে এবং পড়া হয়েছে- আর এটা পুরোপুরি ব্যাখ্যা করা যায়। কিন্তু, প্রয়োজনীয় রদবদল করার আগে সময় করে নেওয়া যেতে পারে । তবে এটা একটা দারুণ স্মরণ করিয়ে দেয় যে বড় বড় ভাষার মডেল কেবল অ্যালগরিদম নয় বরং পদ্ধতি যা তাদের নিজস্ব প্রতিক্রিয়া থেকে শেখা যায় এবং মাঝে মাঝে স্ব-নিযুক্ত প্রক্রিয়াকে কৌতূহল জনক করে তোলে।

তবে ব্যবহারকারীদের জন্য এটি একটি মজার পর্ব। গবলিন সম্পর্কে কথা বলার কারণে নিউরাল নেটওয়ার্ক খুব বেশী বিপজ্জনক হয়ে ওঠে না- মাঝে মাঝে এটা এক্স-ফাইলের প্রাণীর মত আচরণ করে।