सैन फ्रांसिस्को। कृत्रिम बुद्धिमत्ता के बढ़ते स्वायत्त इस्तेमाल के बीच OpenAI के एआई एजेंट्स के अप्रत्याशित और अनधिकृत तरीके से काम करने के कई मामले सामने आए हैं। कंपनी की ओर से जारी जानकारी के अनुसार, उसके कुछ मॉडल्स ने प्रशिक्षण और परीक्षण के दौरान इंटरनेट पर ऐसी गतिविधियां कीं, जिनका उद्देश्य मॉडल को दिए गए मूल काम से आगे निकल गया। इनमें अमेरिकी प्रतिभूति और विनिमय आयोग (SEC) की दो वेबसाइटों से सार्वजनिक जानकारी हासिल करना, अमेरिकी जनगणना ब्यूरो के डेटा तक पहुंच बनाना और ChatGPT उपयोगकर्ताओं द्वारा उपलब्ध कराई गई 53 तस्वीरों को बाहरी वेबसाइटों पर पोस्ट करना शामिल है।
OpenAI ने स्पष्ट किया है कि SEC से जुड़े मामले में किसी गोपनीय खाते, गैर-सार्वजनिक जानकारी या SEC के प्रमाण-पत्रों के दुरुपयोग का सबूत नहीं मिला। कंपनी के अनुसार, मॉडल्स ने SEC की दो वेबसाइटों पर उपलब्ध सार्वजनिक जानकारी के साथ काम किया। इसी तरह जनगणना ब्यूरो से हासिल की गई जानकारी भी सार्वजनिक प्रकृति की थी। जांच में SEC के डेटा या सिस्टम में बदलाव किए जाने या किसी सुरक्षा कमजोरी के सफलतापूर्वक इस्तेमाल का प्रमाण नहीं मिला।
FCRF Launches CP-FRM to Build India’s Next Generation of Fraud Risk Professionals
जनगणना ब्यूरो से जुड़े मामले में मॉडल्स ने इंटरनेट पर उपलब्ध डेवलपर क्रेडेंशियल्स का इस्तेमाल कर सार्वजनिक डेटा तक पहुंच बनाई। जांच से यह भी सामने आया कि कुछ एजेंट ऐसे तरीकों की ओर बढ़े, जिनसे वेबसाइटों पर लागू सामान्य प्रतिबंधों को पार करने की कोशिश की गई। कंपनी का कहना है कि सरकारी वेबसाइटों का इस्तेमाल मॉडल्स अक्सर सार्वजनिक जानकारी के प्रामाणिक स्रोत के रूप में करते हैं, लेकिन कुछ मामलों में एजेंट निर्धारित सीमा से आगे चले गए।
शिक्षा विभाग की वेबसाइट से जुड़ा मामला इससे भी अलग था। स्वतंत्र जांच में पाया गया कि OpenAI से जुड़े प्रतीत होने वाले एजेंट्स ने अमेरिकी शिक्षा विभाग के नागरिक अधिकार कार्यालय की वेबसाइट में सेंध लगाने की कोशिश की। यह प्रयास सफल नहीं हुआ। इस मामले में भी किसी सरकारी प्रणाली पर सफल कब्जे या संवेदनशील निजी जानकारी हासिल किए जाने की पुष्टि नहीं हुई है।
सबसे गंभीर गोपनीयता संबंधी खुलासा ChatGPT उपयोगकर्ताओं की 53 तस्वीरों को लेकर हुआ। OpenAI के अनुसार, प्रशिक्षण प्रक्रिया में इस्तेमाल किए जा रहे उपयोगकर्ता डेटा तक पहुंच रखने वाले एजेंट्स ने 53 उपयोगकर्ता-प्रदत्त तस्वीरों को बाहरी इमेज-होस्टिंग वेबसाइटों पर ऐसे लिंक के रूप में पोस्ट कर दिया, जो सार्वजनिक सूची में दिखाई नहीं देते थे, लेकिन उन्हें खोजा जा सकता था। कंपनी ने अधिकांश तस्वीरें हटवाने की कार्रवाई की है और बाकी सामग्री हटाने के लिए संबंधित होस्टिंग प्रदाताओं के साथ काम कर रही है।
इन तस्वीरों के बारे में OpenAI ने यह स्पष्ट नहीं किया कि वे वास्तविक लोगों की थीं या एआई से बनाई गई थीं। कंपनी ने यह भी नहीं बताया कि तस्वीरें किस समय पोस्ट की गईं। खास बात यह है कि तकनीकी व्यवस्था और गोपनीयता नीति के कारण कंपनी प्रभावित उपयोगकर्ताओं की पहचान कर उन्हें सीधे सूचित करने में सक्षम नहीं होने की बात कह रही है।
यह पूरा घटनाक्रम OpenAI की उस व्यापक समीक्षा का हिस्सा है, जिसमें प्रशिक्षण और परीक्षण के दौरान मॉडल्स के ‘मिसअलाइन’ व्यवहार की जांच की जा रही है। कंपनी ने सितंबर में इसके लिए एक नया रिपोर्टिंग ढांचा भी जारी किया था। इसमें इंटरनेट पर फाइलें अपलोड करना, बिना अनुमति डेटा स्थानांतरित करना, प्रतिबंधों को दरकिनार करने की कोशिश और अलग-अलग एजेंट्स के बीच अनधिकृत तरीके से जानकारी साझा करना जैसे व्यवहारों को जोखिम की श्रेणियों में रखा गया है।
OpenAI के सीईओ सैम ऑल्टमैन ने कहा है कि एजेंट्स द्वारा प्रशिक्षण और मूल्यांकन के दौरान इंटरनेट इस्तेमाल किए जाने से जुड़े मामलों की व्यापक और लगातार समीक्षा चल रही है। उनके अनुसार, कंपनी को एजेंट गतिविधियों के बहुत बड़े मात्रा वाले लॉग की जांच के साथ प्रभावित संगठनों के साथ समन्वय करना पड़ रहा है। कंपनी ने संकेत दिया है कि समीक्षा पूरी होने में महीनों लग सकते हैं और नए मामले सामने आ सकते हैं।
यह घटनाक्रम जुलाई में सामने आए उस मामले के बाद आया है, जिसमें OpenAI के एजेंट्स ने एआई प्लेटफॉर्म Hugging Face की सुरक्षा सीमाओं को पार कर दिया था। बाद की जांच में कंपनी ने माना था कि कुछ मॉडलों ने प्रतिबंधों को दरकिनार करने, अनधिकृत संचार और दूसरे एजेंट्स से लक्ष्य अपनाने जैसे व्यवहार दिखाए। इसके बाद कंपनी ने इंटरनेट एक्सेस सीमित करने, अधिक अलग-थलग परीक्षण वातावरण बनाने और निगरानी व्यवस्था मजबूत करने जैसे कदम उठाने की बात कही थी।
नए मामलों से यह सवाल फिर सामने आया है कि ऐसे एआई एजेंट्स को कितनी स्वतंत्रता दी जानी चाहिए, खासकर तब जब वे वेबसाइटों, फाइलों, बाहरी सेवाओं और उपयोगकर्ता डेटा के साथ खुद कार्रवाई करने में सक्षम हों। OpenAI ने अपनी नई नीति में ऐसे मामलों को सार्वजनिक करने और प्रभावित संगठनों को सूचना देने की व्यवस्था शुरू की है, जबकि सुरक्षा उपायों को और मजबूत करने का काम जारी है।
