क्या बदल गया
एंथ्रोपिक ने अपने फैबल 5 मॉडल के जैविक सुरक्षा के लिए एक प्रमुख अद्यतन की घोषणा की है। इससे पहले, सिस्टम अक्सर गलती से जीवविज्ञान से संबंधित अनुरोधों को अवरुद्ध करेगा और उन्हें कम शक्तिशाली संस्करण में पुनर्निर्देशित करेगा - ओपस 5. अब, कंपनी के अनुसार, इस तरह के रीडायरेक्ट्स की संख्या सभी उत्पाद इंटरफेस में लगभग 85% तक गिर गई है। इसका मतलब यह है कि मेडिकल या शैक्षिक विषयों से निपटने के दौरान नियमित उपयोगकर्ता जानबूझकर कम बार इनकार करने का सामना करेंगे - उदाहरण के लिए, लैब परिणामों की व्याख्या करते समय, लक्षणों का विश्लेषण करना, या अकादमिक सेटिंग में जीवविज्ञान का अध्ययन करना।
वास्तव में, अद्यतन भी पेशेवर क्षेत्र को प्रभावित करता है। डॉक्टर और अन्य मेडिकल स्टाफ फैबल 5 से अधिक समर्थन प्राप्त करने में सक्षम होंगे जब नैदानिक कार्यों पर काम किया जाता है, बिना ओपस 5 में अचानक "बांस" से विचलित हो जाता है। कंपनी के लिए, यह रोजमर्रा के परिदृश्यों में मॉडल के अधिक प्राकृतिक उपयोग की ओर एक कदम है जहां जैविक संदर्भ की आवश्यकता है लेकिन कोई गंभीर जोखिम नहीं है।
क्यों जीवविज्ञान प्रतिबंधित था
शुरू में, Fable 5 जैविक प्रश्नों के लगभग पूर्ण अवरुद्ध के साथ शुरू किया गया था। यह एक दुर्घटना नहीं थी लेकिन एक जानबूझकर समझौता: इस क्षेत्र में मॉडल की बहुत शक्तिशाली क्षमताएं हैं और कई जटिल कार्यों में विशेषज्ञों को ख़त्म कर सकते हैं। दुर्भावनापूर्ण अभिनेताओं के हाथों में, ऐसी क्षमता जैविक हथियारों के विकास में काफी तेजी ला सकती है - एन्थ्रोपिक के अनुमानों के अनुसार, हमलावर की क्षमताओं में वृद्धि काफी महत्वपूर्ण है।
समस्या यह है कि जीवविज्ञान में एआई के लाभकारी और हानिकारक उपयोग के बीच की रेखा अत्यंत धुंधला है। यहां तक कि उपचार रोगों को कभी-कभी खतरनाक यौगिकों के साथ काम करने की आवश्यकता होती है: विषाक्त घटकों पर आधारित लाइव टीके या दवाएं प्राइम उदाहरण हैं। एक परिष्कृत विरोधी एक हानिरहित अनुसंधान क्वेरी के रूप में अपने सच्चे इरादे को छिपाने के लिए इस अस्पष्टता का फायदा उठा सकता है। स्थिति अमेरिकी खुफिया समुदाय के 2026 वार्षिक खतरे के आकलन से पूर्वानुमान से आगे बढ़ रही है: सिंथेटिक जीवविज्ञान और जीनोम संपादन में प्रगति नए जैविक खतरों को बढ़ा सकती है, और कई राज्यों की संभावना आक्रामक जैविक और रासायनिक हथियार कार्यक्रमों को जारी रखने की संभावना है।
जोखिम को कम करने के लिए, कंपनी ने प्रतिबंधित करने के लिए एक जानबूझकर विकल्प बनाया: मॉडल अन्य डोमेन के लिए खोला गया था, लेकिन जीवविज्ञान लगभग पूरी तरह से बंद हो गया था। यह निर्णय केवल समझाया गया था - दोहरे उपयोग के क्षेत्र में त्रुटि की लागत संभावित रूप से विनाशकारी है।
अब सुरक्षा कैसे काम करती है
अद्यतन प्रणाली के मूल में सुरक्षा क्लासिफायर हैं - स्वचालित एआई मॉड्यूल जो संरक्षित जैविक कार्यों को करने या हानिकारक आउटपुट की पहचान करने के लिए अनुरोधों का पता लगाते हैं। जब ऐसा क्लासिफायर ट्रिगर होता है, तो अनुरोध स्वचालित रूप से ओपस 5 पर रीडायरेक्ट किया जाता है, जिसकी जैविक क्षमता काफी मामूली होती है।
सटीक क्लासिफायर विकसित करना एक जटिल इंजीनियरिंग चुनौती है। यह सही ढंग से स्वीकार्य और अभेद्य अनुरोधों के बीच अंतर की आवश्यकता है, सिस्टम को ट्यून करना ताकि यह न तो झूठे सकारात्मक और न ही यादें पैदा कर सके, और इसे जेलब्रेक हमलों के खिलाफ सुरक्षा कर सके। लॉन्च में, एन्थ्रोपिक ने उपयोगकर्ताओं को जल्द ही फैबल 5 तक पहुंच देने के लिए जानबूझकर व्यापक जैविक क्लासिफायर का इस्तेमाल किया, और उसके बाद ही अपने व्यवहार की जांच और उसे परिष्कृत करने के लिए। क्या कंपनी ने अधिक उन्नत सुरक्षा के लिए इंतजार करने का फैसला किया है, मॉडल की सामान्य रिहाई सप्ताह या महीनों तक देरी होगी।
क्या अनुपलब्ध रहता है
महत्वपूर्ण सुधार के बावजूद, Fable 5 अभी भी दोहरी उपयोग श्रेणी के तहत आने वाले अनुरोधों के लिए ओपस 5 पर रीडायरेक्ट करता है। यह विरोलॉजी, विषविज्ञान और आणविक डिजाइन पर लागू होता है। इसलिए, मॉडल अभी तक पेशेवर जैविक अनुसंधान या दवा विकास के लिए उपयुक्त नहीं है - उन जोखिमों का उपयोग नुकसान के लिए किया जा सकता है जो केवल बहुत अधिक हैं।
हालांकि, एंथ्रोपिक ने कहा कि यह वहाँ बंद करने का इरादा नहीं है। योजनाओं में योग्य विशेषज्ञों के लिए मॉडल की उन्नत जैविक क्षमताओं के लिए विश्वसनीय एक्सेस मार्ग बनाना शामिल है। यह दुर्भावनापूर्ण अभिनेताओं के लिए "पैंडोरा का बॉक्स" खोलने के बिना बायोमेडिसिन में एआई की सुरक्षा और उपयोगिता के बीच मौजूदा अंतराल को बंद कर देगा।
निष्कर्ष
Fable 5 की सुरक्षा के लिए अद्यतन व्यावहारिक उपयोगिता और सुरक्षा संतुलन की ओर एक उल्लेखनीय कदम है। Fewer झूठी सकारात्मक मतलब है कि मॉडल शिक्षा, चिकित्सा और दैनिक परामर्श में अधिक उपयोगी हो जाता है। हालांकि, प्रमुख दोहरे उपयोग जोखिम बने रहते हैं, और कंपनी जानबूझकर सबसे खतरनाक अनुरोधों को "कट" करने का अधिकार सुरक्षित रखती है। केवल यह उम्मीद कर सकता है कि विश्वसनीय पहुंच तंत्र का विकास एआई की शक्ति को गंभीर जैविक अनुसंधान में भी इस्तेमाल करने की अनुमति देगा, बिना नए खतरों के।
