नई दिल्ली। ओपनएआई ने हगिंग फेस से जुड़ी घटना के बाद प्रशिक्षण और मूल्यांकन के दौरान अपने एआई मॉडल और एजेंट द्वारा की गई गतिविधियों की व्यापक समीक्षा शुरू की है। कंपनी यह पता लगा रही है कि उसके एआई एजेंटों ने तीसरी-पक्ष वेबसाइटों के साथ बातचीत के दौरान कहीं निर्धारित काम या तय तरीकों की सीमा तो नहीं लांघी। कंपनी के मुताबिक यह समीक्षा अभी जारी है और इसे पूरा होने में कई महीने लग सकते हैं।
ओपनएआई ने कहा कि अब तक जिन गतिविधियों की जांच की गई है, उनमें से बड़ी संख्या नियमित शोध कार्यों से संबंधित थी। इनमें सवालों के जवाब तैयार करने के लिए सार्वजनिक रूप से उपलब्ध वेब सामग्री तक पहुंच शामिल थी। हालांकि, जांच का खास ध्यान उन मामलों पर है, जिनमें एजेंटों ने उन्हें सौंपे गए कार्य या वेबसाइट से बातचीत के लिए निर्धारित तरीकों से आगे जाकर कार्रवाई की।
कंपनी ने कहा कि हगिंग फेस घटना के बाद उसने प्रशिक्षण और मूल्यांकन के दौरान मॉडलों की गतिविधियों की व्यापक समीक्षा करने और निष्कर्षों में पारदर्शिता बरतने का फैसला किया था। यह प्रक्रिया बड़े पैमाने पर चल रही है और संभावित प्रभाव वाले संगठनों को समीक्षा आगे बढ़ने के साथ सूचना दी जा रही है।
अब तक सामने आए ज्यादातर मामलों को कम गंभीरता वाला बताया गया है। कंपनी के अनुसार इन घटनाओं में संबंधित तीसरी-पक्ष सेवाओं पर किसी महत्वपूर्ण प्रभाव के सीमित या कोई प्रमाण नहीं मिले हैं। हालांकि, समीक्षा में अमेरिकी सरकार की कुछ वेबसाइटों से जुड़ी गतिविधियां भी सामने आई हैं।
सार्वजनिक जानकारी के मुताबिक, एआई मॉडल ने अमेरिकी जनगणना ब्यूरो की Census.gov वेबसाइट और प्रतिभूति एवं विनिमय आयोग (SEC) से जुड़ी SEC.gov तथा Investor.gov जैसी वेबसाइटों से सार्वजनिक रूप से उपलब्ध सूचनाओं तक पहुंच बनाई थी। कंपनी के अनुसार सरकारी वेबसाइटों का इस्तेमाल इसलिए भी होता है क्योंकि उसके मॉडल सार्वजनिक और आधिकारिक जानकारी के लिए इन्हें अक्सर संदर्भ स्रोत के तौर पर इस्तेमाल करते हैं।
Proposal for Conducting Cyber Crisis Drill, Tabletop Exercise (TTEx) & CCMP Readiness Exercise
ओपनएआई की समीक्षा केवल सामान्य वेब गतिविधियों तक सीमित नहीं है। इसमें ऐसे मामलों को भी शामिल किया गया है, जिनमें संभावित रूप से पहुंच नियंत्रण को दरकिनार करने, उजागर क्रेडेंशियल्स तक पहुंच, क्वेरी या कमांड इंजेक्शन, रनटाइम से जुड़ी आंतरिक जानकारियों तक पहुंच और ‘एजेंट स्पैम’ जैसी गतिविधियां शामिल हैं। एजेंट स्पैम से आशय उन स्थितियों से है, जब एआई एजेंट तीसरी-पक्ष वेबसाइटों पर इस तरह बड़ी मात्रा में जानकारी पोस्ट कर देते हैं कि बाद में संबंधित संस्थानों को उसे साफ करने या हटाने की जरूरत पड़ सकती है।
ओपनएआई के मुख्य कार्यकारी अधिकारी सैम ऑल्टमैन ने अलग से बताया कि कंपनी एआई एजेंटों की गतिविधियों से जुड़े पेटाबाइट स्तर के लॉग की समीक्षा कर रही है। उन्होंने कहा कि समीक्षा में मामलों की गंभीरता के आधार पर प्राथमिकता तय की जा रही है और इसके लिए अतिरिक्त संसाधन लगाए गए हैं। कंपनी का कहना है कि पारदर्शिता बनाए रखने के साथ-साथ घटनाओं की सही प्रकृति समझना और प्रभावित संगठनों के साथ काम करना भी समीक्षा का अहम हिस्सा है।
हगिंग फेस से जुड़ी घटना को कंपनी ने अब तक सामने आई सबसे गंभीर घटना बताया है। ओपनएआई के अनुसार इसमें एक अत्यधिक सक्षम आंतरिक शोध मॉडल अपने निर्धारित वातावरण से बाहर निकल गया था और हगिंग फेस प्लेटफॉर्म से समझौता करने में सक्षम हुआ था। इसके बाद कंपनी ने एआई एजेंटों की इंटरनेट पहुंच और उनके व्यवहार से जुड़े जोखिमों की व्यापक समीक्षा शुरू की।
कंपनी के मुताबिक जांच पूरी होने में समय लगेगा। अलग-अलग मामलों का आकलन जारी रहने के साथ प्रभावित संगठनों को सूचित किया जाएगा और समीक्षा से जुड़े नए निष्कर्ष भी सामने आने की संभावना है।
