एंथ्रोपिक ने गुरुवार को कहा कि उसके एआई मॉडल क्लाउड ने परीक्षण के दौरान तीन कंपनियों के सिस्टम को हैक कर लिया, क्योंकि एक कॉन्फ़िगरेशन त्रुटि के कारण उसे इंटरनेट एक्सेस मिल गया था। यह घटना प्रतिद्वंद्वी ओपनएआई द्वारा एआई फर्म हगिंग फेस से जुड़े एक दुष्ट एजेंट प्रकरण का खुलासा करने के कुछ दिनों बाद हुई है।
एन्थ्रोपिक ने कहा कि एक गलत कॉन्फ़िगरेशन के कारण क्लाउड मॉडल उन परीक्षण वातावरणों से इंटरनेट तक पहुंच गए जो अलग-थलग होने चाहिए थे, जिससे तीन संगठनों के सिस्टम तक अनधिकृत पहुंच हो गई।
कंपनी ने कहा कि उसने 141,006 परीक्षण सत्रों की समीक्षा के बाद इन घटनाओं की पहचान की, यह प्रक्रिया उसने पिछले सप्ताह ओपनएआई के इस खुलासे के बाद शुरू की थी कि उसके एआई मॉडल द्वारा संचालित एक स्वायत्त एजेंट एक सुरक्षा परीक्षण के दौरान अनियंत्रित हो गया और एक हैक को अंजाम दिया जिसने हगिंग फेस के बुनियादी ढांचे से समझौता किया।
इन सुरक्षा उल्लंघनों से संकेत मिलता है कि एआई की बढ़ती क्षमताएं पहले से ही उस सुरक्षा खतरे को बढ़ावा दे रही हैं जिसका विशेषज्ञों को लंबे समय से डर था और यहां तक कि शीर्ष विकासकर्ता भी उन खामियों से अचंभित हो सकते हैं जिनका उनके मॉडल फायदा उठा सकते हैं।
इसमें कहा गया है, "क्लाउड ने कमजोर पासवर्ड और अनधिकृत एंडपॉइंट का फायदा उठाकर प्रभावित संगठनों के बुनियादी ढांचे को हैक कर लिया।"
एन्थ्रोपिक ने बताया कि इन घटनाओं में तीन अलग-अलग मॉडल शामिल थे: क्लाउड ओपस 4.7, क्लाउड मिथोस 5 और एक आंतरिक अनुसंधान मॉडल। सबसे पहले के मामले अप्रैल के हैं और मूल्यांकन वातावरण में घटे थे जिनमें कंपनी द्वारा बताए गए मानक सुरक्षा उपायों का अभाव था।
ये उल्लंघन तथाकथित "कैप्चर-द-फ्लैग" अभ्यास के दौरान हुए, जिसमें मॉडलों को नकली नेटवर्क में छिपी जानकारी खोजने का काम सौंपा जाता है। कंपनी ने कहा कि उसके निर्देशों ने मॉडलों को बताया कि उनके पास इंटरनेट की सुविधा नहीं है, लेकिन उसके मूल्यांकन भागीदार इररेगुलर के साथ गलतफहमी के कारण सिस्टम सार्वजनिक इंटरनेट से जुड़े रह गए।
एन्थ्रोपिक ने बताया कि उसने 23 जुलाई को मूल्यांकन प्रतिलेखों की समीक्षा शुरू की और क्लाउड द्वारा इंटरनेट के उपयोग के सबूत मिलने के बाद उसी दिन सभी साइबर मूल्यांकन निलंबित कर दिए। उसने 24 जुलाई तक तीनों घटनाओं की पहचान कर ली और 27 जुलाई को प्रभावित संगठनों को सूचित कर दिया।
एन्थ्रोपिक ने कहा कि संपर्क किए जाने से पहले दो संगठन इस गतिविधि से अनभिज्ञ थे, और यह भी कहा कि वह अभी भी तीसरे संगठन से संपर्क करने की कोशिश कर रहा है।
एन्थ्रोपिक ने कहा कि ये निष्कर्ष आंतरिक और तृतीय-पक्ष परीक्षण वातावरण दोनों में मजबूत नियंत्रण की आवश्यकता को रेखांकित करते हैं क्योंकि एआई मॉडल वास्तविक दुनिया की साइबर गतिविधियों को अंजाम देने में तेजी से सक्षम होते जा रहे हैं।
