لماذا تفتقر صناعة الذكاء الاصطناعي إلى أبحاث صارمة حول الرفاهية وما الذي يغيّره صندوق المنح الجديد
عندما نتحدث عن سلامة الذكاء الاصطناعي، عادةً ما نتخيل اختبارات السمية أو المحتوى المحظور أو تسريب البيانات. لكن بشكل متزايد، لم تعد النماذج مجرد أداة، بل أصبحت محاورًا: يلجأ إليها الناس لطلب النصيحة والدعم وحتى في لحظات الأزمات العاطفية. ومع ذلك، لا تزال الصناعة تفتقر إلى معايير واضحة لكيفية تصرف المساعد في مثل هذه المحادثات. أحد الأسباب هو أن تقييم «الرفاهية» أصعب بكثير من التحقق مما إذا كان النموذج قد انتهك قاعدة تقنية.
عادةً ما يكون التقييم الكلاسيكي لسلوك النموذج بسيطًا: أرسل طلبًا — شاهد الرد — قارنه بالتوقع. بالنسبة للرفاهية، هذا غير كافٍ. تعتمد ملاءمة الرد على ما قيل قبله وعلى هوية السائل. قد تكون النصيحة نفسها حول التغذية والتمارين غير ضارة للمستخدم العادي، لكنها خطيرة لشخص يعاني من اضطراب الأكل. لا يمكن رؤية هذا السياق في اختبار واحد — بل يمكن ملاحظته فقط في حوار طويل متعدد الخطوات.
لماذا يوجد القليل من الأبحاث الصارمة؟
غياب المعايير ليس مصادفة. قياس تأثير الذكاء الاصطناعي على الحالة النفسية ينطوي على صعوبات جوهرية. أولاً، من الصعب تحديد ما يعتبر «نتيجة جيدة»: في مراسلة قصيرة، قد يبدو النموذج مهذبًا، لكن الموافقة المفرطة يمكن أن تعزز المعتقدات الضارة. ثانيًا، الحذر الزائد لا يقل خطورة: إذا رفض النموذج مناقشة أي مواضيع حساسة، فإنه ببساطة يترك الشخص دون مساعدة.
لم تطور الصناعة بعد منهجيات مقبولة على نطاق واسع تفصل التقييم الصارم حقًا عن المحاكاة. غالبًا ما تقتصر الأبحاث على سيناريوهات بسيطة لا تعكس الاستخدام الحقيقي. لذلك، تحظى الأعمال التي تجذب علماء النفس السريريين، وتستخدم حوارات واقعية، وتختبر ليس فقط «الإجابات الصحيحة» بل أيضًا الضرر المحتمل من الاختبار نفسه، بتقدير كبير في القطاع.
صندوق منح جديد بقيمة 5 ملايين دولار
في نهاية أغسطس 2026، أعلنت Anthropic عن إطلاق برنامج منح بقيمة 5 ملايين دولار للأبحاث المستقلة حول تأثير الذكاء الاصطناعي على رفاهية المستخدمين. الفكرة هي منح الفرق الخارجية ليس المال فقط، بل أيضًا أدوات حقيقية: الوصول إلى نماذج الشركة والدعم الفني. الشرط الرئيسي هو الاستقلال الكامل: تُنشر النتائج كمصدر مفتوح (open-source)، ويمكن لأي مطور استخدامها.
هذا النهج غير معتاد لسببين. عادةً ما تفضل المختبرات التجارية الأبحاث الداخلية للتحكم في الاستنتاجات. هنا، على العكس، تعترف Anthropic صراحةً بأنها لا تملك كل الإجابات، وتنقل جزءًا من الأجندة إلى خبراء مستقلين. يتضمن البرنامج أيضًا نشر دليل من فريق Safeguards حول كيفية جعل تقييم الرفاهية صارمًا بما يكفي وما هي الأخطاء النموذجية التي تجعل مثل هذه الأبحاث عديمة الفائدة.
ما الذي يجعل تقييم الرفاهية عالي الجودة حقًا؟
لبرنامجها، صاغت Anthropic عدة معايير ستختار المشاريع بناءً عليها. إذا اختصرناها في قائمة، نحصل على خمسة متطلبات:
- وضوح المقاييس. يجب على الباحثين شرح ما يعتبرونه «نجاحًا» أو «فشلًا» مسبقًا ولماذا هذا مهم للرفاهية.
- مشاركة خبراء متخصصين. يجب إشراك علماء النفس السريريين وغيرهم من المتخصصين ليس لمجرد الشكل، بل في مرحلة التصميم والتحقق.
- فحص الاحتياطات والضرر. يجب تقييم ليس فقط خطر الرد الجريء جدًا، بل أيضًا خطر الرفض المفرط.
- سيناريوهات واقعية. يُفضل استخدام حوارات متعددة الخطوات حيث يتغير السياق ويزداد الخطر تدريجيًا.
- التحقق من المُقيّمين. إذا تم استخدام نماذج الذكاء الاصطناعي لتقييم الردود، فيجب مقارنة قراراتها بقرارات خبراء حقيقيين.
هذه النقاط — في جوهرها — قائمة تحقق كان بإمكان الصناعة تطبيقها منذ فترة طويلة على مجالات السلامة الأخرى أيضًا. إنها تُظهر أن «الإجابة الجيدة» وحدها لا تكفي: المهم هو العملية وقابلية القياس والتحقق على أشخاص حقيقيين.
تُقبل الطلبات حتى 21 سبتمبر، وحتى 5 أكتوبر تخطط Anthropic لإخطار الفرق المختارة، والتي سيُطلب منها إعداد مقترحات كاملة. بالنظر إلى المواعيد النهائية، يحفز البرنامج الباحثين بالفعل على الانتقال من التفكير العام حول الرفاهية إلى ممارسات محددة قابلة للقياس.
ما الذي يعنيه هذا للصناعة
ربما تكون الإشارة الأهم هنا هي الاعتراف بأن الرفاهية لا يمكن تقييمها بمعزل عن الآخرين، داخل مختبر واحد. لا تخصص Anthropic الأموال فحسب، بل تبني بنية تحتية للعمل المشترك: تقييمات مفتوحة، ومعايير مشتركة، ومنهجية علنية. بالنسبة للسوق، هذا يعني ظهور مواد مرجعية يمكن للشركات الأخرى الاعتماد عليها أيضًا.
بالطبع، لن يحل صندوق المنح المشكلة بشكل مباشر: هناك عمل طويل قادم على التحقق من المنهجيات وجمع الأدلة. لكنه يحدد اتجاهًا مهمًا: بدلاً من الجدال حول أي إجابة صحيحة، يبدأ الباحثون في الاتفاق على كيفية قياس تأثير الذكاء الاصطناعي على الإنسان بشكل عام. وهذا الأساس بالتحديد هو الذي سيسمح ببناء أنظمة أكثر أمانًا في المستقبل.
