OpenAI وعلماء النفس يتعاونون لحماية المراهقين من مخاطر الذكاء الاصطناعي

29 أغسطس 20267 الآراء

تحالف من خبراء الصحة النفسية ومطوري الذكاء الاصطناعي يهدف إلى وضع توصيات آمنة للشباب. ستساعد الجهود المشتركة في دمج تدابير وقائية قائمة على الأدلة العلمية في منتجات الذكاء الاصطناعي.

OpenAI وعلماء النفس يتعاونون لحماية المراهقين من مخاطر الذكاء الاصطناعي

المراهقون من بين أكثر المستخدمين نشاطًا للنماذج التوليدية. الذكاء الاصطناعي بالنسبة لهم ليس مجرد أداة، بل محاور ومستشار. وفي الوقت نفسه، يقع المراهقون تحديدًا في منطقة الخطر: فحالتهم النفسية ما تزال في طور التكوين، وثقتهم بالخوارزميات الذكية شبه مطلقة. لذلك، جمعت OpenAI جهودها مع علماء نفس الأطفال لتقليل الضرر المحتمل وجعل التفاعل مع الذكاء الاصطناعي أكثر أمانًا. في هذا المقال، سنستعرض كيف يعمل هذا التعاون وما الذي يغيّره على أرض الواقع.

المراهقون والذكاء الاصطناعي: لماذا نحتاج إلى حماية خاصة

في سن المراهقة، يمر الدماغ بإعادة هيكلة مكثفة: تتطور المناطق المسؤولة عن ضبط النفس والتفكير النقدي وتقييم العواقب طويلة المدى. وإلى حين اكتمال هذه العمليات، يكون الشباب سريعي الثقة بالمصادر الموثوقة — وغالبًا ما يُنظر إلى الذكاء الاصطناعي على أنه أحد هذه المصادر. النموذج الذي يرد بنبرة واثقة يمكنه بسهولة إقناع المراهق بأي شيء، حتى لو كانت المعلومة خاطئة أو ضارة.

أضف إلى ذلك الحاجة إلى القبول والخوف من الإدانة. قد يستخدم المراهق الدردشة الآلية كمدرب للمهارات الاجتماعية أو كمكان لا يوجد فيه خطر التعرض للسخرية. لكن هنا تكمن الخطورة أيضًا: إذا كانت الخوارزمية لا تعرف كيف ترفض الطلبات الخطرة بلطف، فقد تعزز الأفكار الهدّامة. المواضيع الحساسة بشكل خاص هي إيذاء النفس، واضطرابات الأكل، والتنمر، والاكتئاب. ولهذا السبب، يتطلب تطوير "السلامة العاطفية" للذكاء الاصطناعي مشاركة علماء نفس محترفين.

ما الذي يفعله الباحثون والمطورون بالضبط

تشرك OpenAI علماء النفس في جميع المراحل — من جمع المتطلبات إلى اختبار الحلول الجاهزة. يساعد المتخصصون في تحديد السيناريوهات التي قد تضر فيها ردود النموذج، ويقترحون كيفية إعادة صياغة الردود لتكون مفيدة. على سبيل المثال، إذا ذكر المراهق أفكارًا انتحارية بشكل مباشر أو غير مباشر، يجب ألا يكتفي النموذج بتقديم معلومات مرجعية أو تغيير الموضوع — بل يجب أن يُظهر تعاطفًا، ويقترح التوجه إلى شخص بالغ، ويذكّر بخطوط الدعم المتاحة.

كيف تتغير النماذج نفسها

يشارك علماء النفس في الضبط الدقيق لسلوك الشبكة العصبية. بدلًا من الحظر الصارم، يتم غرس القدرة على طرح أسئلة توضيحية، وإعادة توجيه المحادثة، وعدم مجاراة التخيلات الضارة. من المهم ألا يبدو النموذج للمراهق "موسوعة متنقلة"، بل أن يعرف كيف يعترف بمحدودية معرفته. هذا النهج يقلل من خطر أن ينظر المستخدم إلى الردود على أنها الحقيقة المطلقة.

بالإضافة إلى ذلك، تتم دراسة تأثير التواصل الطويل مع المساعدين على تكوين الارتباط العاطفي. مهمة علماء النفس هي تحديد أين ينتهي الاستخدام الصحي ويبدأ الإدمان، وإرشاد المطورين إلى الإشارات التي يجب أن تُفعّل "وضع الرعاية" أو التوصية بأخذ استراحة.

ماذا يعني هذا للآباء والمعلمين

تعاون OpenAI مع علماء النفس ليس مجرد إعدادات داخلية للخوارزميات. نتائج العمل تظهر تدريجيًا أيضًا على جانب المستخدم: في شكل إعدادات أمان أكثر وضوحًا، وتحذيرات مدمجة حول الأخطاء المحتملة للذكاء الاصطناعي، ومواد تعليمية للبالغين. من المهم أن يفهم الآباء: لا يمكن لأي حماية تقنية أن تحل محل التواصل الحي. منع الطفل من استخدام الدردشات الآلية ليس حلًا، أما استكشاف حدود الذكاء الاصطناعي معه — فهو حل بالفعل.

أما للمعلمين، فهذه الشراكة تمنحهم سيناريوهات جاهزة للحديث عن الثقافة الرقمية. يتعلم المراهق التحقق من الحقائق، والشك في النبرة "الواثقة" للخوارزمية، والتمييز بين التلاعب. إذا كان المراهق يعلم أنه حتى المساعدين الأذكياء يمكن أن يخطئوا وأنهم من صنع البشر، يصبح أقل عرضة لتأثيرهم.

من المهم ألا يبقى هذا العمل دراسة لمرة واحدة. يلاحظ علماء النفس: بيئة المراهقين تتغير بسرعة، وما كان آمنًا قبل عام قد يحمل مخاطر جديدة اليوم. التحديث المنتظم للقواعد والمشاركة الفعالة للمتخصصين المستقلين — هو السبيل الوحيد لمواكبة هذه التغيرات. أما بالنسبة للمراهقين أنفسهم، فالخلاصة الرئيسية بسيطة: يبقى الذكاء الاصطناعي أداة، وليس بديلًا عن التواصل الحي، ويجدر تذكّر ذلك في أي مراسلة مع الخوارزمية.

الأسئلة المتكررة

المواد ذات الصلة

جميع المواد
OpenAI وعلماء النفس يتعاونون لحماية المراهقين من مخاطر الذكاء الاصطناعي