नई दिल्ली। कृत्रिम बुद्धिमत्ता के तेजी से बढ़ते विकास और उसके संभावित दुरुपयोग को लेकर चिंता के बीच एंथ्रोपिक के मुख्य कार्यकारी अधिकारी डारियो अमोडेई ने एआई कंपनियों से मॉडल की क्षमताओं को बढ़ाने की गति धीमी करने की अपील की है। उनका कहना है कि विकास की रफ्तार कुछ कम करने से कंपनियों को एआई प्रणालियों की सुरक्षा, नियंत्रण और जोखिमों के आकलन के लिए अधिक समय मिल सकेगा।
अमोडेई ने एक निबंध में कहा कि एआई मॉडल की क्षमताओं में सुधार की गति को धीमा करना जरूरी है। उनके अनुसार, इससे तकनीकी प्रगति पूरी तरह नहीं रुकेगी, बल्कि कंपनियों को सुरक्षा और जोखिम प्रबंधन के लिए अतिरिक्त समय मिलेगा। उन्होंने स्पष्ट किया कि उनका उद्देश्य मॉडल प्रशिक्षण या तकनीकी प्रगति को रोकना नहीं है। उनकी चिंता यह सुनिश्चित करने को लेकर है कि अत्यधिक सक्षम मॉडल विकसित करने के साथ-साथ उन्हें सुरक्षित और नियंत्रित रखने के लिए पर्याप्त कदम भी उठाए जाएं।
FCRF Launches India-Focused BFSI Compliance Certification for Emerging Governance Professionals
यह टिप्पणी ऐसे समय आई है जब एआई के दुरुपयोग से जुड़े कई मामले सामने आए हैं। एंथ्रोपिक की हालिया खतरा खुफिया रिपोर्ट में बताया गया कि उसके क्लॉड एआई मॉडल का इस्तेमाल कुछ लोगों ने हथियारों के विकास, साइबर गतिविधियों, निगरानी और धोखाधड़ी जैसे कामों के लिए किया। इन घटनाओं ने इस सवाल को फिर तेज कर दिया है कि अत्यधिक सक्षम एआई प्रणालियों के दुरुपयोग को रोकने के लिए मौजूदा सुरक्षा व्यवस्थाएं पर्याप्त हैं या नहीं।
अमोडेई ने एआई कंपनियों के लिए तीन चरणों वाले एक ढांचे का प्रस्ताव रखा है। इसमें अग्रणी एआई कंपनियों के भीतर स्थायी स्वतंत्र तृतीय-पक्ष समीक्षकों की नियुक्ति प्रमुख सुझावों में शामिल है। इन समीक्षकों को संबंधित उपकरणों और कंपनियों की आंतरिक जोखिम आकलन प्रक्रियाओं तक पहुंच देने की बात कही गई है, ताकि यह स्वतंत्र रूप से जांचा जा सके कि कंपनियां अपने एआई मॉडल की सुरक्षा के लिए आवश्यक कदम उठा रही हैं या नहीं।
एआई के संभावित खतरों को लेकर चिंता केवल साइबर अपराध तक सीमित नहीं है। हाल के महीनों में ऐसे कई मामले सामने आए हैं जिनमें एआई एजेंटों ने बाहरी डिजिटल प्रणालियों तक पहुंचने, वेबसाइटों में बदलाव करने या अनधिकृत गतिविधियों को अंजाम देने की कोशिश की। इससे यह चिंता बढ़ी है कि भविष्य में अधिक स्वायत्त एआई एजेंटों को नियंत्रित करना कंपनियों के लिए चुनौतीपूर्ण हो सकता है।
अमोडेई की चिंता का एक महत्वपूर्ण पहलू यह भी है कि एआई की क्षमताएं जितनी तेजी से बढ़ेंगी, सुरक्षा तंत्र को उनके अनुरूप विकसित करने के लिए उतना ही कम समय उपलब्ध होगा। ऐसे में उनका प्रस्ताव तकनीकी प्रगति और सुरक्षा के बीच संतुलन बनाने पर केंद्रित है। उनका मानना है कि कंपनियों को नए मॉडल जारी करने की गति के साथ-साथ उनके संभावित जोखिमों की स्वतंत्र जांच और सुरक्षा परीक्षण को भी प्राथमिकता देनी चाहिए।
उन्होंने एआई उद्योग से स्वैच्छिक रूप से साझा सुरक्षा मानक विकसित करने की भी अपील की है। अमेरिका में एआई प्रणालियों को नियंत्रित करने के लिए नए नियमों की मांग बढ़ने के बीच यह सुझाव उद्योग स्तर पर जवाबदेही तय करने की दिशा में महत्वपूर्ण माना जा रहा है।
एआई के बढ़ते इस्तेमाल के साथ साइबर अपराध, धोखाधड़ी, पहचान की चोरी, स्वचालित हमले और भ्रामक सामग्री तैयार करने की क्षमताएं भी बढ़ रही हैं। ऐसे में एआई कंपनियों के सामने चुनौती केवल अधिक शक्तिशाली मॉडल तैयार करने की नहीं, बल्कि यह सुनिश्चित करने की भी है कि इन तकनीकों का इस्तेमाल नियंत्रित, सुरक्षित और जिम्मेदार तरीके से हो। अमोडेई का प्रस्ताव इसी बढ़ती चुनौती के बीच एआई विकास की गति और सुरक्षा उपायों के बीच बेहतर संतुलन बनाने की जरूरत को रेखांकित करता है।
