निवेश का आकार और उद्देश्य
Anthropic और Accenture पाँच वर्षों में उन्नत AI मॉडलों के स्वतंत्र मूल्यांकन, red-teaming और सुरक्षा जाँच पर कम से कम $2 млрд लगाने की योजना बना रहे हैं।
दोनों कंपनियाँ AI सुरक्षा परीक्षण और निगरानी क्षमताओं को विकसित करने के लिए कम से कम $1 млрд खर्च करने का इरादा रखती हैं। ये निवेश की योजनाएँ हैं, पहले से खर्च की गई राशि की पुष्टि नहीं।
इस पहल के प्रमुख मानदंड हैं—न्यूनतम घोषित राशि, पाँच साल की अवधि और निवेश का उद्देश्य।
स्वतंत्र मूल्यांकन कैसे किया जाएगा
भागीदारों ने embedded evaluation का तरीका चुना है: स्वतंत्र मूल्यांकनकर्ता Anthropic के भीतर काम करेंगे। उन्हें कर्मचारियों के बराबर पहुँच मिलेगी।
मूल्यांकनकर्ता ये काम कर सकेंगे:
- कंपनी के कामकाज और उसकी सुरक्षा संबंधी प्रतिबद्धताओं के पालन की जाँच करना;
- कमियों की पहचान करना और घटनाओं की जानकारी देना;
- जनता को लाभों और जोखिमों की अधिक जानकारीपूर्ण तस्वीर देना।
इस जाँच का व्यावहारिक मानदंड केवल बाहरी मूल्यांकनकर्ताओं की भागीदारी नहीं, बल्कि कंपनी के कामकाज तक उनकी पहुँच भी है।
Accenture Faculty की ज़िम्मेदारियाँ
Accenture का विशेषज्ञ AI कारोबार, Accenture Faculty, इस साझेदारी का नेतृत्व करेगा। यह Anthropic के मॉडलों का मूल्यांकन और red-teaming करेगा।
इसके काम में अनुपालन का मूल्यांकन और मॉडलों के सुरक्षा उपायों का परीक्षण भी शामिल होगा। इस तरह साझेदारी में Accenture Faculty के काम का विशिष्ट दायरा तय किया गया है।
यह तरीका अभी विकसित क्यों हो रहा है
Anthropic embedded evaluation को एक विकसित होता क्षेत्र बताता है। कंपनी गैर-लाभकारी मूल्यांकन संगठन METR और अन्य संगठनों के साथ पायलट परियोजनाओं पर चर्चा कर रही है।
Anthropic को उम्मीद है कि समय के साथ व्यापक मूल्यांकन पारिस्थितिकी तंत्र में साझा मानक उभरेंगे। यह साझेदारी अधिक शक्तिशाली मॉडलों की सुरक्षा को लेकर नियामकों, शोधकर्ताओं और व्यवसायों की बढ़ती चिंता के बीच बनी है।
यहाँ साझा मानकों को अपेक्षित दिशा के रूप में बताया गया है, न कि पहले से हासिल परिणाम के रूप में।
