परिचय
हाल के हफ्तों में, उपयोगकर्ता ChatGPT एक नया शगल पाया है: वे एक दूसरे स्क्रीनशॉट को भेजते हैं जिसमें चैटबॉब अचानक गोब्लिन, ग्रीमेलिन और अन्य मिश्रित प्राणियों के बारे में बात करना शुरू कर देता है। ऐसा लगता है कि तंत्रिका नेटवर्क ने कुछ वायरल आदत उठाई है और अब सबसे साधारण उत्तरों में अजीब शब्द फिसल जाता है। आइए जानते हैं कि यह क्या था और क्यों OpenAI ने आधिकारिक तौर पर समस्या को स्वीकार किया।
कैसे उपयोगकर्ताओं ने anomaly देखा
असामान्य व्यवहार पहली बार मंचों पर चर्चा की गई थी जिसे समर्पित किया गया था GPT-5.5 कोडेक्स उपयोगकर्ताओं ने संवादों को पोस्ट किया जिसमें मॉडल ने "गोबिन मोड" का उल्लेख किया, "गोबिन बैंडविड्थ" और "perf gremlin" का स्पष्ट कारण नहीं है। सबसे पहले, यह यादृच्छिक ग्लिच के रूप में खारिज कर दिया गया था, लेकिन स्क्रीनशॉट ने पिलिंग को रखा था। यह स्पष्ट हो गया: मॉडल को कुछ शब्दों पर ठीक किया गया था, और यह विभिन्न संचार शैलियों में हुआ।
एक चर्चा प्रतिभागी ने पाया कि कोडेक्स के सिस्टम निर्देश स्पष्ट रूप से गोब्लिन, gremlins, raccoons, trolls, ogres, pigeons, और अन्य काल्पनिक जीवों का उल्लेख करते हैं - जब तक वे उपयोगकर्ता के अनुरोध के लिए प्रासंगिक नहीं हैं। दूसरे शब्दों में, डेवलपर्स पहले से ही समस्या से अवगत थे और इसे रोकने की कोशिश कर रहे थे। लेकिन जाहिरा तौर पर पूरी तरह से नहीं।
क्या पाया
29 अप्रैल, 2026 को, ओपनएआई ने एक आधिकारिक टुकड़ा प्रकाशित किया जिसका शीर्षक "गोब्लिन कहां से आया था"। इसमें , कंपनी ने स्वीकार किया कि जीपीटी और कोडेक्स ने लगातार "भाषी आदत" विकसित की थी - मॉडल ने तेजी से गोबिलिन और gremlin जैसे शब्दों को जोड़ा था, यहां तक कि जब उपयोगकर्ता ने उनके लिए नहीं पूछा था।
डेटा के अनुसार, GPT-5.1 के प्रक्षेपण के बाद, 175% की वृद्धि हुई प्रतिक्रियाओं में Goblin शब्द की आवृत्ति, और 52% तक gremlin। समय तक GPT-5.5 जारी किया गया था, यह इतना ध्यान देने योग्य हो गया था कि विशेष प्रतिबंधों को होना पड़ा था कोडेक्स के लिए पेश किया जाना चाहिए। फिर भी, घटना पूरी तरह से उन्मूलन नहीं हो सकती थी।
यह क्यों हुआ: फीडबैक पाश
सैम Altman, एक सार्वजनिक प्रतिक्रिया में, जिसे "goblin पल" कहा गया था। लेकिन चुटकुले, कारण गहरे हो गए। एक आंतरिक लेखा परीक्षा से पता चला है कि अक्सर तंत्रिका व्यक्तित्व पूर्व निर्धारित में दिखाई दिया। इस शैली का उपयोग सभी के केवल 2.5% में किया गया था ChatGPT जवाब, फिर भी यह शब्द गोब्लिन के सभी उल्लेखों में से 66.7% के लिए जिम्मेदार है। लगभग सभी समस्याग्रस्त मामलों को विशेष रूप से "नर्सी" स्वर से बांधा गया था।
उन शब्दों के बिना विकल्पों पर गोबिलिन या ग्रेमेलिन युक्त डेटासेट के 76.2% में नर्डी मोड के लिए इनाम संकेत। दूसरे शब्दों में, मॉडल को समय-समय पर "playful" शब्दों का उपयोग करने के लिए सकारात्मक सुदृढीकरण प्राप्त हुआ, और कि सुदृढीकरण अन्य संकेतों outweighed।
OpenAI ने स्थिति को एक क्लासिक फीडबैक लूप के रूप में वर्णित किया: मॉडल को एक चंचल शैली के लिए एक इनाम प्राप्त होता है; चंचल शैली अक्सर रोलआउट डेटा में दिखाई देती है; इसी तरह की प्रतिक्रियाएं बाद में ठीक ट्यूनिंग में समाप्त होती हैं; नतीजतन, मौखिक टिक भी अधिक entrenched हो जाता है। प्रत्येक चक्र के साथ, "गोब्लिन" अधिक जोरदार हो जाता है जब तक कि वे सबसे अनुचित स्थानों पर फिसल जाते हैं।
उपयोगकर्ताओं के लिए इसका क्या मतलब है
यदि आप अचानक एक चैटबॉट का सामना करना पड़ा है शुरू gremlins के बारे में बात करने के लिए या एक "goblin समाधान" की पेशकश करने के लिए पता है कि यह एक मतिभ्रमण नहीं है और अपनी कल्पना का एक समझौता नहीं है। यह व्यवहार दर्ज किया गया है और अध्ययन किया गया है - और यह पूरी तरह से समझा जा सकता है। OpenAI पहले से ही प्रभाव को नरम करने के लिए काम कर रहा है, लेकिन यह पूरी तरह से तय होने से पहले समय ले सकता है। इस बीच, यह एक महान अनुस्मारक है कि बड़ी भाषा मॉडल केवल एल्गोरिदम नहीं हैं लेकिन सिस्टम जो अपनी स्वयं की प्रतिक्रियाओं से सीखते हैं, और कभी-कभी यह कि आत्म-प्रबलन प्रक्रिया उत्सुक क्र्क की ओर जाता है।
उपयोगकर्ताओं के लिए, हालांकि, यह एक गंभीर समस्या की तुलना में एक अजीब एपिसोड से अधिक है। गोबलिन के बारे में शब्दों के कारण तंत्रिका नेटवर्क अधिक खतरनाक नहीं होता है - यह कभी-कभी द एक्स-फिल्स से एक प्राणी की तरह व्यवहार करता है।
