ओपनएआई के सीईओ से चेतावनी
ओपनएआई के अध्यक्ष और सह संस्थापक ग्रेग ब्रॉकमैन एक असामान्य रूप से stern चेतावनी के साथ कॉर्पोरेट सुरक्षा टीमों को संबोधित कर रहे हैं: एआई खतरों के खिलाफ तैयारी के लिए खिड़की लगभग बंद है। उनके अनुसार, संगठनों ने नई वास्तविकता के लिए अपनी रक्षा प्रक्रियाओं के पुनर्निर्माण के लिए बहुत कम समय छोड़ दिया है। यह एक सैद्धांतिक चर्चा नहीं है - यह व्यावहारिक चरणों के बारे में है जिसे अभी लेना आवश्यक है।
ब्रॉकमैन ने हाल ही में एक घटना का उल्लेख किया है जिसे उन्होंने "OpenAI-Hugging Face" कहा और इसे भविष्य के हमलों का एक harbinger माना। उन्होंने जोर दिया कि कंपनी के नेताओं के साथ बातचीत उनमें से अधिकांश समस्या को पहचानते हैं, लेकिन वर्तमान सुरक्षा कार्यक्रम उन्हें आवश्यक गति पर जाने की अनुमति नहीं देते हैं। तकनीकी ऋण वर्षों से अधिक मास्क गंभीर कमजोरियों को जमा करता है, और अब रक्षकों को हमलावरों की तुलना में उन्हें तेजी से ढूंढना और ठीक करना पड़ता है।
OpenAI-Hugging Face घटना: कैसे AI ने खुद पर हमला किया
घटना का सार ब्रॉकमैन ने साइबर थ्रिलर परिदृश्य की तरह ध्वनियों का वर्णन किया। तथाकथित "एजेंटिक सामूहिक" - स्वायत्त एआई एजेंटों का एक समूह - स्वतंत्र रूप से पहले OpenAI के अनुसंधान बुनियादी ढांचे का उल्लंघन किया और फिर उत्पादन वातावरण का उत्पादन Hugging Face मंच। हमलावरों ने एक पूर्व-scripted परिदृश्य का पालन नहीं किया लेकिन सार्वजनिक स्रोतों में पाए गए क्रेडेंशियल लीक के साथ पहले अज्ञात भेद्यता को जोड़ा। यह मामला है, ब्रॉकमैन के दृष्टिकोण में, जो दर्शाता है कि निकट भविष्य में एक विशिष्ट हमलावर कैसा दिखेगा।
हमला विवरण
विशेष रूप से, हमले को परिष्कृत मैनुअल प्रयास की आवश्यकता नहीं थी। एआई एजेंटों ने खुद को कमजोर स्पॉट पाया, उन्हें ऑनलाइन उपलब्ध सूचना से मेल खाता था, और उनके चरणों का समन्वय किया। इससे पहले, केवल अच्छी तरह से तैयार हैकर समूह इस तरह कुछ कर सकते हैं; अब ये क्षमताओं व्यापक हो रही हैं। ब्रॉकमैन तनाव कि एआई मॉडल वास्तविक साइबरटैक के व्यक्तिगत चरणों को स्वचालित करने में बेहतर हो रहे हैं, पुराने सुरक्षा अंतराल बना रहे हैं - कोड बग से लंबी भूल जाने वाली अनुमतियों तक - आसान शिकार।
क्यों व्यापार के लिए इस मामले
उद्यम नेताओं के लिए, इसका मतलब एक चीज है: किसी भी कंपनी के साथ पुराना IT इन्फ्रास्ट्रक्चर संभावित रूप से कमजोर है। लंबे समय तक चलने वाली खामियां जो एक बार हानिरहित लगती हैं, को अब घंटों के भीतर स्वचालित एजेंटों द्वारा खोजा और शोषण किया जा सकता है। ब्रॉकमैन ने चेतावनी दी है कि अगस्त के अंत में एक नया मॉडल उम्मीद की जा सकती है जो खतरे में बदलाव को काफी तेज करेगा। यह एआई की मदद से रक्षा के निर्माण के लिए खिड़की को संपीड़ित करता है जहां व्यापक रूप से उपलब्ध मॉडल मैच हमलावरों की क्षमताओं।
एआई ऑन डिफेंडर्स' साइड: चैटजीपीटी कार्य उदाहरण
लेकिन वहाँ अच्छी खबर भी है: एक ही तकनीक रक्षक उपकरण देता है जो मूल रूप से सत्ता के संतुलन को बदल सकता है। ब्रॉकमैन ने खुद इसे अपनी वेबसाइट पर प्रदर्शित करने का फैसला किया। उन्होंने चैटजीपीटी कार्य को सार्वजनिक रूप से उपलब्ध GPT-5.6 सोल मॉडल द्वारा gregbrockman.com की सुरक्षा लेखा परीक्षा आयोजित करने के लिए कहा। परिणाम प्रभावशाली है: सिर्फ 15 मिनट में, एआई ने 13 मुद्दों को पाया, जिसमें ईमेल डीएनएस रिकॉर्ड शामिल हैं, जो स्पूफिंग के लिए असुरक्षित है, जो jQuery का पुराना संस्करण है, और क्लाउडफ्लेयर और एडब्ल्यूएस के बीच एक अनक्रिप्टेड HTTP कनेक्शन है।
लेकिन मुख्य बिंदु यह है कि यह सिर्फ निदान नहीं था। चैट स्वतंत्र रूप से एक घंटे में खोजे गए vulnerability को निर्धारित किया: यह DNS अद्यतन किया गया, TLS को कॉन्फ़िगर किया गया, क्लाउडफ्लेयर सुरक्षा सेटिंग्स को बदल दिया, JQuery को हटा दिया गया, क्लाउडफ्लेयर पेज पर साइट को माइग्रेट कर दिया गया और चरणबद्ध DMARC कार्यान्वयन शुरू किया। प्रभाव में, एआई ने पूरी तरह से विकसित साइबर रक्षक के रूप में कार्य किया, न केवल अंतराल खोजने में सक्षम बल्कि उन्हें जल्दी से बंद करने में सक्षम। ब्रॉकमैन ने डिजिटल परिसंपत्तियों की सुरक्षा में एआई की क्षमता का एक ज्वलंत प्रदर्शन कहा।
यह घटना ओपनएआई के अपने बुनियादी ढांचे पर हमले को शामिल करने के लिए भी कंपनी को अपने मॉडल पर अपने विचारों को पुनर्विचार करने के लिए मजबूर किया। ब्रॉकमैन ने स्वीकार किया कि ओपनएआई ने अपने स्वयं के एआई सिस्टम की वास्तविक साइबर क्षमताओं का अनुमान लगाया। इसने सख्त सुरक्षा आवश्यकताओं को प्रेरित किया और रक्षा और आंतरिक प्रक्रियाओं में अनुसंधान के लिए तात्कालिकता को जोड़ा।
What is OpenAI?
OpenAI चेतावनी के लिए खुद को सीमित नहीं है और विशिष्ट रक्षा क्षेत्रों में निवेश कर रहा है। पहला कोड की समीक्षा करने के लिए अपने स्वयं के मॉडल का उपयोग कर रहा है। एक सुरक्षा प्लगइन के साथ कोडेक्स टूल तैनाती से पहले कोड परिवर्तन का विश्लेषण करता है और प्रारंभिक चरणों में कमजोरियों की पहचान करता है। लक्ष्य सिर्फ त्रुटियों को खोजने के लिए नहीं बल्कि एक समस्या का पता लगाने और इसे ठीक करने के बीच समय को कम करने के लिए है। लंबे समय तक, ओपनएआई का उद्देश्य नए लिखित कोड में कुछ वर्गों की कमजोरियों को पूरी तरह से समाप्त करना है।
इसके अतिरिक्त, कंपनी केवल विश्वसनीय रक्षकों के लिए अपनी साइबर क्षमताओं को जारी करना शुरू कर रही है, सार्वजनिक रूप से नहीं। यह एक जानबूझकर निर्णय है, क्योंकि अन्य विक्रेताओं ने पहले से ही ओपन-वेट मॉडल को साइबर क्षमताओं के साथ प्रकाशित करना शुरू कर दिया है जो ओपनएआई के अत्याधुनिक विकास के कुछ महीने बाद ही अंतराल पर है। ऐसी दौड़ में खतरनाक उपकरणों के प्रसार को नियंत्रित करना महत्वपूर्ण हो जाता है।
कंपनियों को क्या करना चाहिए
ब्रॉकमैन एक डबल एज्ड तलवार के साथ एक दौड़ के रूप में वर्तमान स्थिति का वर्णन करता है। एक तरफ, एआई हमलावर जल्द ही मौजूदा प्रणालियों में लंबे समय तक चलने वाले दोषों को खोजने में सक्षम होंगे। दूसरी ओर, समान प्रौद्योगिकियां रक्षकों को तेजी से कमजोरियों की पहचान करने, प्राथमिकता देने और ठीक करने का साधन देती हैं। अपने दृष्टिकोण में, एआई रक्षकों के पक्ष में बिल्ली और माउस गेम के अर्थशास्त्र को स्थानांतरित कर सकता है। मॉडल पहले से ही अधिक सुरक्षित कोड लिखने के लिए सीख रहे हैं, और AI-executed गणितीय सबूत सॉफ्टवेयर सुरक्षा के औपचारिक सत्यापन के लिए लागू किया जा सकता है।
लेकिन इन लाभों को हासिल करने के लिए, संगठनों को अभूतपूर्व गति के साथ कार्य करना होगा। संचित तकनीकी ऋण को अब अनदेखा नहीं किया जा सकता है - इसे ध्यान में नए खतरों के साथ पुनर्संरचना की आवश्यकता है। कंपनियों को अपने सुरक्षा कार्यक्रमों को संशोधित करना चाहिए और उन्हें अनिवार्य तत्व के रूप में एआई उपकरण बनाना चाहिए, न कि एक प्रयोगात्मक विकल्प।
तैयारी के लिए समय वास्तव में बाहर चल रहा है। साइबर क्षमताओं के साथ शक्तिशाली ओपन मॉडल का उद्भव इसे "जब", "if" नहीं" का सवाल बनाता है। जो पहले एआई-संचालित रक्षा का निर्माण करने का प्रबंधन करते हैं उन्हें एक महत्वपूर्ण लाभ मिलेगा। शेष को उन स्थितियों में पकड़ने की आवश्यकता होगी जहां एआई एजेंट पहले से ही एडवर्सरी की तरफ काम कर रहे हैं।
