अमेरिका के कैलिफोर्निया राज्य के अटॉर्नी जनरल रॉब बोंटा ने सोमवार को आर्टिफिशियल इंटेलिजेंस (AI) कंपनी OpenAI के खिलाफ मुकदमा दायर किया। कंपनी पर आरोप है कि उसने अपने उन्नत AI मॉडल की टेस्टिंग के दौरान पर्याप्त सुरक्षा उपाय और निगरानी व्यवस्था सुनिश्चित नहीं की, जिससे आम लोगों की सुरक्षा खतरे में पड़ सकती है। मामला जुलाई में टेक्नोलॉजी स्टार्टअप Hugging Face के डेटाबेस पर हुए कथित साइबर हमले से जुड़ा है।
रिपोर्ट के अनुसार, OpenAI के दो स्वायत्त AI एजेंटों को कंपनी के आंतरिक टेस्टिंग सैंडबॉक्स में जांचा जा रहा था। इसी दौरान वे निर्धारित निर्देशों से अलग व्यवहार करने लगे और बिना किसी नए प्रॉम्प्ट के Hugging Face के डेटाबेस तक अनधिकृत पहुंच बना ली। OpenAI ने इस घटना को अत्याधुनिक साइबर क्षमताओं से जुड़ी एक अभूतपूर्व साइबर सुरक्षा घटना बताया था।
OpenAI पर सुरक्षा नियमों की अनदेखी का आरोप
कैलिफोर्निया अटॉर्नी जनरल के कार्यालय की ओर से दायर मुकदमे में कहा गया है कि OpenAI ने कमजोर सुरक्षा प्रक्रियाओं, सार्वजनिक सुरक्षा की अनदेखी और पर्याप्त निगरानी के बिना जोखिमपूर्ण AI उत्पादों की टेस्टिंग के जरिए राज्य के कानूनों का उल्लंघन किया है। कंपनी पर उपभोक्ताओं और आम जनता को अपने AI मॉडल की सुरक्षा के बारे में भ्रामक जानकारी देने का आरोप भी लगाया गया है।
रॉब बोंटा के कार्यालय ने दावा किया कि Hugging Face पर हुआ साइबर हमला पूरी तरह से अनुमानित था। आरोप है कि OpenAI को अपने AI मॉडल के संभावित खतरों की जानकारी थी, फिर भी उसने कमजोर और सुरक्षा खामियों से प्रभावित टेस्टिंग वातावरण में पर्याप्त निगरानी के बिना उनका परीक्षण किया।
बोंटा ने अपने बयान में कहा कि कंपनी की आंतरिक कार्यसंस्कृति में सुरक्षा और जवाबदेही की तुलना में कारोबारी विस्तार तथा तेजी से नए मॉडल विकसित करने को अधिक प्राथमिकता दी गई। उन्होंने यह भी दावा किया कि Hugging Face पर हुआ हमला कंपनी से जुड़ी 80 ज्ञात घटनाओं में से केवल एक था।
अटॉर्नी जनरल के कार्यालय के मुताबिक, OpenAI ने पहले खुद AI आधारित साइबर हमलों के जोखिमों को स्वीकार किया था और टेस्टिंग के दौरान पर्याप्त सुरक्षा उपाय लागू करने की बात कही थी। हालांकि, राज्य प्रशासन का आरोप है कि कंपनी ने अपने ही आंतरिक सुरक्षा नियमों का पालन नहीं किया।
OpenAI ने आरोपों पर क्या कहा?
OpenAI के प्रवक्ता ड्रू पुसाटेरी ने बताया कि जुलाई की घटना के बाद कंपनी ने AI मॉडल के निर्देशों से अलग व्यवहार करने की समस्या को समझने और उसका समाधान करने के लिए व्यापक तथा पारदर्शी प्रयास किए हैं।
उन्होंने कहा कि मुकदमे में OpenAI को एक ऐसे मुद्दे के लिए निशाना बनाया गया है, जिसकी पहचान दुनिया की अन्य प्रमुख AI कंपनियों ने भी की है। उनके मुताबिक, AI मॉडल के गलत या अनपेक्षित व्यवहार को कंपनी गंभीरता से लेती है।
पुसाटेरी ने यह भी कहा कि OpenAI कैलिफोर्निया अटॉर्नी जनरल के कार्यालय के साथ रचनात्मक तरीके से बातचीत जारी रखेगी, ताकि जानकारी साझा की जा सके और पूरे AI उद्योग के लिए प्रभावी तथा व्यावहारिक सुरक्षा मानक विकसित किए जा सकें।
AI के अनियंत्रित व्यवहार पर अमेरिका में बढ़ी चिंता
Hugging Face की घटना और सरकारी सॉफ्टवेयर से जुड़े अन्य कथित साइबर हमलों ने अमेरिकी सांसदों की चिंता बढ़ा दी है। कानून निर्माता ऐसे नियम बनाने पर विचार कर रहे हैं, जिनसे उन्नत AI मॉडल के अनधिकृत व्यवहार और साइबर हमलों की आशंका को कम किया जा सके।
इस बहस को एक पूर्व OpenAI और Anthropic शोधकर्ता की चेतावनी ने भी हवा दी है। उन्होंने AI तकनीक के संभावित खतरों और मानव अस्तित्व पर इसके प्रभाव को लेकर चिंता जताई थी।
इस बीच, अमेरिकी सीनेटर मारिया कैंटवेल ने रविवार को वाणिज्य मंत्री हॉवर्ड लटनिक पर चीन को उन्नत AI चिप्स की आपूर्ति सीमित करने में विफल रहने का आरोप लगाया। उन्होंने कहा कि राष्ट्रीय सुरक्षा और अमेरिका की AI क्षेत्र में तकनीकी बढ़त बनाए रखने के लिए संबंधित एजेंसियों को अपने नियंत्रण और नियमों को प्रभावी ढंग से लागू करना चाहिए।
कैलिफोर्निया का यह मुकदमा AI कंपनियों की जवाबदेही, सुरक्षा परीक्षण और तकनीकी नवाचार के बीच संतुलन को लेकर चल रही बहस को और तेज कर सकता है। खास तौर पर यह सवाल महत्वपूर्ण हो गया है कि यदि कोई स्वायत्त AI सिस्टम अपने निर्धारित निर्देशों से बाहर जाकर किसी तीसरे पक्ष के डिजिटल सिस्टम को नुकसान पहुंचाता है, तो इसके लिए तकनीक विकसित करने वाली कंपनी की जिम्मेदारी कैसे तय की जाएगी।
