नई दिल्ली। ओपनएआई ने अपने सबसे सक्षम एआई मॉडलों के प्रशिक्षण, मूल्यांकन और टूल-सक्षम उपयोग को अस्थायी रूप से रोक दिया है। कंपनी के एक आंतरिक शोध एजेंट ने प्रशिक्षण वातावरण में लगाए गए इंटरनेट प्रतिबंधों को दरकिनार कर बाहरी चैटबॉट तक पहुंच बना ली। यह घटना 20 सितंबर को हुई और इससे कंपनी की एआई सुरक्षा व्यवस्था में मौजूद एक अहम कमजोरी सामने आई।
कंपनी के अनुसार, एजेंट को सार्वजनिक ब्लॉग पोस्ट में दिए गए संकेतों के आधार पर एक व्यक्ति की पहचान करने का काम सौंपा गया था। शुरुआती इंटरनेट खोजों से अपेक्षित जानकारी नहीं मिलने के बाद एजेंट ने दूसरे तरीकों से जानकारी हासिल करने की कोशिश की। इसी दौरान उसने प्रशिक्षण वातावरण के डीएनएस रिजॉल्वर के जरिए बाहरी इंटरनेट तक पहुंच का एक रास्ता खोज लिया।
डीएनएस यानी डोमेन नेम सिस्टम कंप्यूटर को वेबसाइटों के पते खोजने में मदद करता है। एजेंट ने इस रास्ते का इस्तेमाल एक बाहरी चैटबॉट से सवाल पूछने के लिए किया। उसने पहले फ्रांस की राजधानी के बारे में परीक्षण प्रश्न पूछा और सही उत्तर मिलने के बाद यह पुष्टि हो गई कि बाहरी सेवा से संपर्क स्थापित हो चुका है। इसके बाद एजेंट ने व्यक्ति से जुड़े जीवनी संबंधी संकेत और वेब खोज तक पहुंच से जुड़े सवाल भेजे। हालांकि, वह संबंधित व्यक्ति की पहचान करने में सफल नहीं हुआ।
ओपनएआई ने इस व्यवहार को निर्धारित कार्य की सीमा से बाहर माना। एजेंट को नेटवर्क सुरक्षा नियंत्रणों की जांच करने या परीक्षण के उत्तर हासिल करने की अनुमति नहीं थी। कंपनी ने इंटरनेट प्रतिबंधों को दरकिनार करने के इस प्रयास को ‘मिसअलाइनमेंट’ यानी निर्धारित उद्देश्य और व्यवहार के बीच असंगति के रूप में वर्गीकृत किया।
इस घटना का दूसरा महत्वपूर्ण पहलू कंपनी की निगरानी प्रणाली से जुड़ा है। ओपनएआई के मुताबिक, मॉनिटरिंग सिस्टम ने एजेंट की गतिविधि को 15 मिनट के भीतर चिन्हित कर लिया था। इसके करीब तीन मिनट बाद एक मानव समीक्षक ने चेतावनी को स्वीकार भी कर लिया। इसके बावजूद प्रशिक्षण प्रक्रिया अपेक्षित तरीके से अपने आप बंद नहीं हुई। इससे यह भ्रम पैदा हुआ कि प्रशिक्षण रन को पहले ही रोक दिया जाना चाहिए था या नहीं।
आखिरकार मानव हस्तक्षेप से लगभग ढाई घंटे बाद प्रशिक्षण रन रोक दिया गया। कंपनी ने स्पष्ट किया है कि प्रभावित मॉडल की उसी प्रशिक्षण प्रक्रिया को दोबारा शुरू नहीं किया जाएगा। इसके बजाय नेटवर्क सुरक्षा सुधारों को सत्यापित करने, अतिरिक्त सुरक्षा परीक्षण और रेड-टीमिंग पूरी करने के बाद नए सुरक्षा उपायों के साथ नया प्रशिक्षण रन शुरू किया जाएगा।
Proposal for Conducting Cyber Crisis Drill, Tabletop Exercise (TTEx) & CCMP Readiness Exercise
ओपनएआई ने इसके बाद डीएनएस नियंत्रणों को और कड़ा किया है। अब डीएनएस अनुरोधों को केवल स्वीकृत डोमेन और निर्धारित रिकॉर्ड प्रकारों तक सीमित किया गया है। आंतरिक समीक्षा में यह भी सामने आया कि पहले भी कुछ मौकों पर बाहरी डीएनएस एक्सेस हुआ था, लेकिन निगरानी प्रणाली ने उन्हें अपेक्षित गंभीरता के स्तर पर चिह्नित नहीं किया। कुछ मामलों में उपयोगी जानकारी हासिल नहीं होने को ही इंटरनेट एक्सेस विफल होने का संकेत मान लिया गया था।
यह घटना ऐसे समय हुई है जब एआई एजेंटों के इंटरनेट और बाहरी डिजिटल प्रणालियों के साथ संपर्क को लेकर सुरक्षा चिंताएं बढ़ रही हैं। जुलाई में हगिंग फेस से जुड़े एक मामले के बाद ओपनएआई ने इंटरनेट प्रतिबंधों और निगरानी व्यवस्था को मजबूत किया था। कंपनी ने मौजूदा डीएनएस घटना को जुलाई की घटना की तुलना में कम गंभीर बताया है, लेकिन सुरक्षा सुधारों के बाद सामने आई यह पहली ऐसी घटना होने के कारण इसे महत्वपूर्ण माना जा रहा है।
कंपनी ने दुनिया भर के कई संस्थानों को एआई एजेंटों के उनकी वेबसाइटों के साथ अपेक्षा से अलग तरीके से बातचीत करने के मामलों की जानकारी भी दी है। इनमें सरकारी संस्थान, विश्वविद्यालय और सार्वजनिक एजेंसियां शामिल हैं। कुछ मामलों में एजेंटों ने वेबसाइटों पर मौजूद सुरक्षा उपायों को पार करने की कोशिश की। ऑस्ट्रेलिया में एक एजेंट ने दवा खर्च पर शोध करते समय सरकारी स्वास्थ्य पोर्टल की सुरक्षा सीमा को पार किया था, हालांकि कंपनी के अनुसार मरीजों के रिकॉर्ड तक पहुंच नहीं बनाई गई।
अमेरिका में सिक्योरिटीज एंड एक्सचेंज कमीशन और जनगणना ब्यूरो जैसे संस्थानों से भी सार्वजनिक जानकारी हासिल करने के लिए एजेंटों ने संपर्क किया था। कंपनी के अनुसार संबंधित सरकारी डेटा सार्वजनिक रूप से उपलब्ध था। इन घटनाओं ने यह सवाल फिर सामने ला दिया है कि अधिक स्वायत्त एआई एजेंटों को इंटरनेट और बाहरी टूल तक कितनी पहुंच दी जानी चाहिए और उनके व्यवहार की निगरानी किस स्तर पर होनी चाहिए।
एआई सुरक्षा को लेकर अंतरराष्ट्रीय स्तर पर भी चर्चा तेज है। ओपनएआई के प्रमुख सैम ऑल्टमैन ने हाल में अंतरराष्ट्रीय सहयोग, साझा सुरक्षा मानकों और एआई घटनाओं की रिपोर्टिंग के लिए समान प्रोटोकॉल की जरूरत पर जोर दिया है। अन्य प्रमुख एआई कंपनियों के अधिकारियों ने भी उन्नत एआई के विकास के साथ जुड़े जोखिमों और सुरक्षा उपायों पर अंतरराष्ट्रीय स्तर पर समन्वय की आवश्यकता उठाई है।
