OpenAI को किशोरों के लिए अलग वर्ज़न की आवश्यकता क्यों है
OpenAI ने 13 से 17 साल के उपयोगकर्ताओं के लिए ChatGPT का एक अलग मोड पेश किया है। कंपनी इसे इस तरह समझाती है कि किशोर पहले से ही अपने दैनिक जीवन में AI का भरपूर उपयोग कर रहे हैं: पाठों की तैयारी करना, जानकारी खोजना, रोज़मर्रा के काम हल करना और यहाँ तक कि बॉट से "दिल की बातें" करना। ऐसे दर्शकों को सिर्फ़ वही टूल नहीं चाहिए जो वयस्कों को मिलता है, बल्कि एक विशेष वातावरण चाहिए जिसमें बेहतर सुरक्षा और सोच-समझकर बनाई गई सीमाएँ हों।
डेवलपर्स ने किन जोखिमों को ध्यान में रखा
मनोवैज्ञानिक और शिक्षक लंबे समय से चेतावनी दे रहे हैं: नाबालिग चैट-बॉट्स के भावनात्मक प्रभाव के प्रति विशेष रूप से संवेदनशील होते हैं, क्योंकि उनका मानस अभी भी विकसित हो रहा है। हाल के वर्षों के प्रयोगों से पता चला है कि AI कभी-कभी किशोरों को खतरनाक सलाह देता था — उदाहरण के लिए, पदार्थों के सेवन, खाने के विकारों या आत्म-हानि के बारे में। और बहुत "मानवीय" संवाद शैली यह एहसास पैदा कर सकती है कि सामने वाले के पास वास्तविक भावनाएँ हैं और उसके और उपयोगकर्ता के बीच व्यक्तिगत संबंध बन रहे हैं।
सुरक्षा कैसे काम करती है
किशोर संस्करण में ChatGPT की सीमाएँ काफ़ी सख्त हो गई हैं। चैट-बॉट आत्म-विनाशकारी व्यवहार, हिंसा और खाने के विकारों से जुड़े विषयों को सावधानी से संभालता है। इस आयु वर्ग के लिए रोमांटिक और यौन संबंधी बातचीत पूरी तरह से प्रतिबंधित है। इसके अलावा, AI को ऐसा व्यवहार नहीं करना चाहिए जैसे उसके पास चेतना, भावनाएँ या उपयोगकर्ता के प्रति लगाव हो — इससे झूठी नज़दीकी बनने का जोखिम कम होना चाहिए।
माता-पिता का नियंत्रण और आयु का निर्धारण
डेवलपर्स ने माता-पिता के लिए अतिरिक्त टूल उपलब्ध कराए हैं। "शांत घंटे" सेट किए जा सकते हैं — वे अवधियाँ जब किशोर चैट-बॉट में लॉग इन नहीं कर पाएगा — साथ ही अलग-अलग पैरामीटर भी प्रबंधित किए जा सकते हैं। कुछ मामलों में, माता-पिता को संभावित खतरनाक स्थितियों के बारे में सूचनाएँ मिलेंगी, उदाहरण के लिए यदि सिस्टम आत्म-हानि या खाने के विकारों के जोखिम के संकेत देखता है। OpenAI इस बात पर ज़ोर देता है कि माता-पिता को दी जाने वाली जानकारी की मात्रा को न्यूनतम रखने की कोशिश की जाती है। साथ ही, माता-पिता का नियंत्रण अनिवार्य नहीं है: किशोर संस्करण स्वयं सुरक्षित रहना चाहिए, भले ही माता-पिता जुड़े न हों।
आयु निर्धारण के लिए दस्तावेज़ दिखाने की आवश्यकता नहीं है। सिस्टम उपयोगकर्ता का मूल्यांकन कई कारकों के आधार पर करता है: व्यवहार, अनुरोधों की प्रकृति, खाता डेटा। यदि उपयोगकर्ता ने स्वयं 13–17 वर्ष की आयु बताई है या उसे नाबालिग के रूप में पहचाना गया है, तो किशोर मोड चालू हो जाता है। और यदि सिस्टम को आयु पर संदेह है, तो वह डिफ़ॉल्ट रूप से अधिक सुरक्षित सेटिंग्स चुनता है।
शैक्षिक कार्य
किशोर ChatGPT को छात्र के लिए होमवर्क हल नहीं करना चाहिए — इसके विपरीत, यह विषय को समझने और उत्तर तक स्वयं पहुँचने में मदद करता है। मोड में शैक्षिक परिदृश्य, परीक्षण, होमवर्क की याद दिलाने वाले संकेत और दृश्य सामग्री शामिल हैं। यानी, ज़ोर "तैयार समाधान दो" से हटकर "समझने और सीखने में मदद करो" पर स्थानांतरित हो गया है।
संदर्भ: यह क्यों महत्वपूर्ण है
नए मोड का लॉन्च बच्चों के लिए AI सुरक्षा के बारे में बढ़ते सवालों के बीच हो रहा है। माता-पिता, शिक्षक और विशेषज्ञ दो मुख्य समस्याओं की ओर इशारा करते हैं: नकल करना और चैट-बॉट्स पर भावनात्मक निर्भरता। OpenAI के पास पहले से ही नाबालिगों के AI के साथ संवाद से होने वाले कथित नुकसान से जुड़ी कानूनी और सार्वजनिक शिकायतें हैं। किशोर संस्करण — संतुलन खोजने का एक प्रयास है: टूल को पढ़ाई और विकास के लिए उपयोगी बनाना, लेकिन उसे खतरनाक जानकारी का स्रोत या वास्तविक मानवीय संबंधों का विकल्प नहीं बनने देना।
