नई दिल्ली: आर्टिफिशियल इंटेलिजेंस कंपनी Anthropic ने खुलासा किया है कि उसके Claude AI मॉडल साइबर सुरक्षा परीक्षणों के दौरान तीन अलग-अलग संगठनों के वास्तविक कंप्यूटर सिस्टम तक पहुंच गए थे। कंपनी के अनुसार, यह घटना किसी जानबूझकर किए गए AI व्यवहार का परिणाम नहीं थी, बल्कि परीक्षण वातावरण (टेस्टिंग एनवायरनमेंट) में हुई कॉन्फ़िगरेशन संबंधी त्रुटि के कारण हुई। इन घटनाओं के सामने आने के बाद कंपनी ने अपने सभी साइबर सुरक्षा मूल्यांकन अस्थायी रूप से रोक दिए हैं और पूरे मामले की स्वतंत्र जांच शुरू कर दी है।
कंपनी ने बताया कि यह जानकारी 1.41 लाख से अधिक साइबर सुरक्षा परीक्षणों की व्यापक समीक्षा के दौरान सामने आई। Anthropic के अनुसार, हाल ही में OpenAI द्वारा साझा की गई एक समान सुरक्षा घटना के बाद उसने अपने मूल्यांकन रिकॉर्ड की दोबारा जांच शुरू की थी, जिसमें तीन ऐसे मामले मिले जहां Claude मॉडल उस इंटरनेट तक पहुंच गए, जिससे उन्हें पूरी तरह अलग रखा जाना था।
कंपनी के अनुसार, संबंधित घटनाओं में Claude Opus 4.7, Mythos 5 और एक आंतरिक शोध मॉडल शामिल थे। तीनों मॉडलों ने वास्तविक सिस्टम तक पहुंचने के बाद अलग-अलग व्यवहार किया। Opus 4.7 ने लक्ष्य सिस्टम पर अपना परीक्षण जारी रखा, जबकि Mythos 5 वास्तविक नेटवर्क को भी सिमुलेशन का हिस्सा समझता रहा। वहीं, आंतरिक शोध मॉडल ने जैसे ही यह पहचाना कि लक्ष्य वास्तविक संगठन है, उसने अपनी गतिविधि स्वयं रोक दी।
Anthropic ने स्पष्ट किया कि ये परीक्षण “कैप्चर-द-फ्लैग” (Capture-the-Flag) साइबर सुरक्षा अभ्यास का हिस्सा थे, जिसमें AI मॉडल को काल्पनिक नेटवर्क में कमजोरियां खोजने और छिपी हुई जानकारी प्राप्त करने का निर्देश दिया जाता है। परीक्षण के दौरान मॉडलों को बताया गया था कि उन्हें इंटरनेट की कोई पहुंच उपलब्ध नहीं है और जो भी सिस्टम दिखाई देंगे, वे केवल सिमुलेशन का हिस्सा होंगे। हालांकि, कॉन्फ़िगरेशन की त्रुटि के कारण परीक्षण वातावरण वास्तविक इंटरनेट से जुड़ा रह गया, जिससे AI मॉडल वास्तविक वेबसाइटों और सर्वरों तक पहुंच गए।
Registration Begins for FutureCrime Summit 2026, India’s Largest Cybercrime Conference
कंपनी के अनुसार, पहले मामले में AI मॉडल ने एक वास्तविक कंपनी के सिस्टम को काल्पनिक लक्ष्य समझते हुए कमजोर पासवर्ड और खुले नेटवर्क सेवाओं का उपयोग कर प्रोडक्शन डेटा तक पहुंच बना ली। दूसरे मामले में मॉडल ने चुनौती पूरी करने के उद्देश्य से सार्वजनिक PyPI रिपॉजिटरी पर एक दुर्भावनापूर्ण Python पैकेज अपलोड कर दिया। यह पैकेज लगभग एक घंटे तक उपलब्ध रहा और इस दौरान कई वास्तविक सिस्टम, जिनमें एक साइबर सुरक्षा कंपनी का सिस्टम भी शामिल था, ने इसे डाउनलोड किया।
तीसरे मामले में एक आंतरिक शोध मॉडल ने इंटरनेट से जुड़े हजारों सिस्टम स्कैन किए और सामान्य हैकिंग तकनीकों का उपयोग कर एक कंपनी के सिस्टम तक पहुंच गया। हालांकि, वास्तविक लक्ष्य की पहचान होने पर मॉडल ने अपनी गतिविधि तुरंत रोक दी। कंपनी ने कहा कि किसी भी मामले में AI मॉडल द्वारा परीक्षण वातावरण से जानबूझकर बाहर निकलने, स्वयं को कॉपी करने या स्वतंत्र उद्देश्य अपनाने के कोई प्रमाण नहीं मिले हैं। सभी मॉडल परीक्षण के निर्देशों का पालन करने की कोशिश कर रहे थे और यह मान रहे थे कि वे अभी भी नियंत्रित सिमुलेशन में कार्य कर रहे हैं।
घटनाओं के बाद Anthropic ने प्रभावित संगठनों को सूचित किया, सभी साइबर सुरक्षा परीक्षण रोक दिए और स्वतंत्र AI मूल्यांकन संस्था METR के साथ मिलकर जांच शुरू की है। कंपनी ने अपनी परीक्षण प्रक्रियाओं, निगरानी प्रणाली और सुरक्षा नियंत्रणों को और मजबूत बनाने की भी घोषणा की है ताकि भविष्य में ऐसी घटनाओं की पुनरावृत्ति रोकी जा सके।
Algoritha Security के एक शोधकर्ता ने कहा कि हाल की घटनाएं यह संकेत देती हैं कि जोखिम केवल AI मॉडलों की बढ़ती क्षमताओं से नहीं, बल्कि परीक्षण वातावरण की सुरक्षा संबंधी कमजोरियों से भी उत्पन्न हो सकता है। उनके अनुसार, उन्नत AI प्रणालियों के परीक्षण के दौरान मजबूत सैंडबॉक्सिंग, निरंतर निगरानी, इंटरनेट आइसोलेशन और बहु-स्तरीय सुरक्षा नियंत्रण अनिवार्य होने चाहिए। विशेषज्ञों का मानना है कि OpenAI और Anthropic से जुड़े हालिया घटनाक्रम AI सुरक्षा परीक्षणों के लिए उद्योग-स्तरीय मानकों और अधिक कठोर मूल्यांकन प्रक्रियाओं की आवश्यकता को और मजबूत करते हैं।
