تغير
وقد أعلنت الأنثروبيك تحديثا رئيسيا للضمانات البيولوجية لنموذجها الخامس القابل للطي. وفي السابق، كثيرا ما يحجب النظام عن طريق الخطأ الطلبات المتصلة بالبيولوجيا ويعيد توجيهها إلى صيغة أقل قوة - أوبست ٥. الآن، وفقا للشركة، عدد هذه إعادة التوجيه قد انخفض بنحو 85٪ عبر جميع واجهات المنتجات. وهذا يعني أن المستعملين العاديين سيواجهون في كثير من الأحيان الرفض عند التعامل مع المواضيع الطبية أو التعليمية - مثلا عند تفسير نتائج المختبرات، أو تحليل الأعراض، أو دراسة البيولوجيا في إطار أكاديمي.
والأهم من ذلك أن التحديث يؤثر أيضا على المجال المهني. الأطباء وغيرهم من الموظفين الطبيين سيكونون قادرين على الحصول على المزيد من الدعم من (فايبل 5) عندما يعملون في مهام سريرية دون أن يتم إلهاءهم من قبل "البوتس" المفاجئة إلى (أوبوس 5) وبالنسبة للشركة نفسها، فإن هذه خطوة نحو استخدام النموذج على نحو أكثر طبيعية في السيناريوهات اليومية التي يلزم فيها السياق البيولوجي ولكن لا تنطوي على مخاطر خطيرة.
لماذا البيولوجيا مقيدة
وفي البداية، أُطلق الملف الخامس بحجب كامل تقريباً للاستفسارات البيولوجية. This was not an accident but a deliberate compromise: the model has very powerful capabilities in this area and can outperform experts in a number of complex tasks. في أيدي الجهات الفاعلة الخبيثة، مثل هذه الإمكانات يمكن أن تعجل بشكل كبير تطوير الأسلحة البيولوجية - وفقا لتقديرات أنثروبيك، الزيادة في قدرات المهاجم كبيرة.
والمشكلة هي أن الخط الفاصل بين الاستخدام المفيد والضار للمنشط في البيولوجيا غير واضح إلى حد بعيد. وحتى معالجة الأمراض تتطلب أحيانا العمل مع المركبات الخطرة: فاللقاحات الحية أو المخدرات القائمة على المكونات السامة هي أمثلة أولية. قد يستغل خصم متطور هذا الغموض لإخفاء نواياهم الحقيقية كسؤال بحثي غير مؤذي. ومما يزيد الوضع تفاقماً التنبؤات الواردة في تقييم التهديدات السنوي لعام 2026 لدوائر الاستخبارات الأمريكية: إن التقدم المحرز في البيولوجيا الاصطناعية وتحرير الجينوم يمكن أن يؤدي إلى تهديدات بيولوجية جديدة، ومن المرجح أن يستمر عدد من الدول في تنفيذ برامج للأسلحة البيولوجية والكيميائية الهجومية.
وللحد من المخاطر، اتخذت الشركة خيارا متعمدا لتقييد ما يلي: فتح النموذج لمجالات أخرى، ولكن البيولوجيا أغلقت تماما تقريبا. وقد تم شرح هذا القرار ببساطة - ومن المحتمل أن تكون تكلفة الخطأ في مجال الاستخدام المزدوج كارثة.
كيف تعمل الحماية الآن
وفي صميم النظام المستكمل هم مصنفو الأمان - وحدات آلية للتصنيف الآلي لكشف طلبات أداء المهام البيولوجية المحمية أو تحديد النواتج الضارة. When such a classifier triggers, the request is automatically redirected to Opus 5, whose biological capabilities are significantly more modest.
ويشكل وضع معايير دقيقة للتصنيف تحديا هنديا معقدا. It requires correctly distinguishing between permissible and impermissible requests, tuning the system so that it produces neither false positives nor misses, and protecting it against jailbreak attacks. At launch, Anthropic used a deliberately broad biological classifier to give users access to Fable 5 soon, and only then to investigate and refine its behavior. ولو قررت الشركة انتظار ضمانات أكثر تقدما، لكان الإفراج العام عن النموذج قد تأخر لأسابيع أو حتى أشهر.
ما تبقى غير متاح
Despite the significant improvement, Fable 5 still redirects to Opus 5 for requests falling under the dual-use category. وينطبق هذا على علم النفس وعلم السموم والتصميم الجزيئي. ولذلك، فإن هذا النموذج ليس ملائما بعد للبحث البيولوجي المهني أو تطوير المخدرات - فالمخاطر التي يمكن أن تستخدم في التصدي للأذى هي مخاطر عالية جدا.
غير أن " أنثروبيك " يذكر أنه لا يعتزم التوقف هناك. الخطط تتضمن إيجاد مسارات موثوق بها للوصول إلى قدرات النموذج البيولوجية المتقدمة للأخصائيين المؤهلين. هذا من شأنه أن يغلق الفجوة القائمة بين سلامة وفائدة منظمة العفو الدولية في الطب الحيوي دون فتح صندوق باندورا للجهات الفاعلة الخبيثة.
الاستنتاجات
المستجدات لضمانات (فايبل 5) هي خطوة ملحوظة نحو تحقيق التوازن بين المنفعة والسلامة العملية والقليل من الايجابات الخاطئة يعني أن النموذج يصبح أكثر فائدة في التعليم والطب والمشاورات اليومية. ومع ذلك، لا تزال المخاطر الرئيسية ذات الاستخدام المزدوج، وتحتفظ الشركة عمدا بالحق في " إيقاف " أكثر الطلبات خطورة. ولا يمكن للمرء إلا أن يأمل في أن يتيح وضع آليات موثوق بها للوصول إلى المعلومات استخدام القوة في البحوث البيولوجية الخطيرة أيضاً، دون خلق تهديدات جديدة.
