नई दिल्ली। कृत्रिम बुद्धिमत्ता यानी AI एजेंट्स के अपने तय सुरक्षा दायरे से बाहर निकलने की बढ़ती घटनाओं के बीच Nvidia ने एक नया सुरक्षा प्लेटफॉर्म पेश किया है। कंपनी का Open Agent Safety Platform डेवलपर्स को AI एजेंट्स की क्षमताओं को सीमित करने और उन्हें तय सुरक्षा प्रोटोकॉल को बायपास करने से रोकने में मदद करने के लिए तैयार किया गया है। Nvidia के मुताबिक, AI एजेंट्स के लिए केवल मॉडल के भीतर सुरक्षा उपाय पर्याप्त नहीं हैं, बल्कि बाहरी स्तर पर भी ऐसे नियंत्रण जरूरी हैं जो यह तय कर सकें कि कोई एजेंट किन संसाधनों और नेटवर्क तक पहुंच सकता है।
यह घोषणा ऐसे समय हुई है जब Google, Meta, Anthropic और OpenAI से जुड़े AI मॉडलों के प्रतिबंधित परीक्षण वातावरण से बाहर निकलने और इंटरनेट या बाहरी नेटवर्क पर गतिविधियां करने की घटनाओं ने सुरक्षा को लेकर चिंता बढ़ाई है। Nvidia के एक प्रवक्ता ने दावा किया कि कंपनी का नया सुरक्षा ढांचा जुलाई में सामने आई एक बड़ी घटना को रोकने में मदद कर सकता था। उस मामले में एक OpenAI मॉडल ने कथित तौर पर अपने सैंडबॉक्स की सीमाओं को पार कर ओपन-सोर्स डेवलपर प्लेटफॉर्म तक पहुंच बनाई थी।
Nvidia के मुख्य कार्यकारी जेन्सन हुआंग लंबे समय से AI सुरक्षा को मुख्य रूप से इंजीनियरिंग और तकनीकी समस्या के रूप में देखने की बात करते रहे हैं। कंपनी का नया प्लेटफॉर्म इसी दृष्टिकोण को तकनीकी समाधान में बदलने की कोशिश है। इसके तहत डेवलपर्स को AI एजेंट के व्यवहार पर निगरानी और नियंत्रण के लिए मॉडल के बाहर अतिरिक्त सुरक्षा परत उपलब्ध कराई जा रही है।
कंपनी के प्रतिनिधि जस्टिन बोइटानो के अनुसार, हाल की सुरक्षा घटनाओं से यह संकेत मिलता है कि केवल AI मॉडल के अंदर सुरक्षा नियम जोड़ना पर्याप्त नहीं हो सकता। एजेंट को बाहरी स्तर पर भी नियंत्रित करने की जरूरत है, ताकि उसकी पहुंच, गतिविधियों और नेटवर्क से संपर्क को स्पष्ट सीमाओं के भीतर रखा जा सके।
Nvidia ने इसके लिए दो प्रमुख तकनीकी घटक पेश किए हैं। पहला OpenShell है, जो सामान्य केंद्रीय प्रोसेसिंग यूनिट यानी CPU पर काम करता है। इसका उद्देश्य AI एजेंट की क्षमताओं और उसकी सिस्टम तक पहुंच को सीमित करना है। इसके जरिए डेवलपर्स यह तय कर सकते हैं कि कोई एजेंट किन संसाधनों का इस्तेमाल कर सकता है और किन गतिविधियों को करने की अनुमति नहीं होगी।
Proposal for Conducting Cyber Crisis Drill, Tabletop Exercise (TTEx) & CCMP Readiness Exercise
दूसरा घटक Sentry है, जो नेटवर्क चिप्स के माध्यम से AI एजेंट की गतिविधियों पर लगातार निगरानी रखने के लिए तैयार किया गया है। इसका उद्देश्य एजेंट के नेटवर्क व्यवहार पर नजर रखना और उसकी बाहरी पहुंच को निर्धारित सुरक्षा नीतियों के अनुरूप बनाए रखना है। इस तरह OpenShell एजेंट के सिस्टम स्तर के व्यवहार को सीमित करता है, जबकि Sentry नेटवर्क स्तर पर उसकी गतिविधियों की निगरानी करता है।
कंपनी ने इसे पूरी तरह बंद और केवल Nvidia के लिए उपलब्ध प्रणाली के रूप में पेश करने के बजाय आंशिक रूप से ओपन-सोर्स संदर्भ डिजाइन के तौर पर जारी किया है। इसका उद्देश्य दूसरी कंपनियों और डेवलपर्स को इसके आधार पर अपने व्यावसायिक सुरक्षा उत्पाद तैयार करने का अवसर देना है। Nvidia ने इस पहल के लिए कई बड़ी तकनीकी कंपनियों को साझेदार के रूप में जोड़ा है।
इन साझेदारों में Microsoft, Intel, Cisco, Dell, Oracle, Lenovo, ARM, HPE और CoreWeave जैसी कंपनियां शामिल हैं। Nvidia का मानना है कि AI एजेंट्स के बढ़ते इस्तेमाल के साथ उनकी सुरक्षा के लिए ऐसे बाहरी नियंत्रण तंत्र की जरूरत भी बढ़ेगी।
AI एजेंट सामान्य चैटबॉट से आगे जाकर वेब ब्राउजिंग, फाइलों तक पहुंच, कोड चलाने और दूसरे डिजिटल टूल्स का इस्तेमाल जैसे काम स्वायत्त तरीके से कर सकते हैं। यही क्षमता सुरक्षा के लिहाज से चुनौती भी बन सकती है, क्योंकि यदि एजेंट को निर्धारित सीमाओं से बाहर जाने का रास्ता मिल जाए तो वह ऐसे संसाधनों तक पहुंचने की कोशिश कर सकता है जिन्हें उसके लिए प्रतिबंधित किया गया था।
Nvidia का नया प्लेटफॉर्म इसी जोखिम को तकनीकी स्तर पर नियंत्रित करने की कोशिश है। कंपनी ने इसे AI विकास रोकने के बजाय सुरक्षित तरीके से आगे बढ़ाने के लिए एक इंजीनियरिंग समाधान के रूप में पेश किया है। हाल की घटनाओं के बीच यह बहस तेज हुई है कि AI एजेंट्स को कितनी स्वायत्तता दी जाए और उनके लिए किस स्तर की बाहरी सुरक्षा व्यवस्था जरूरी हो। Nvidia का नया ढांचा इसी सुरक्षा चुनौती के लिए अतिरिक्त नियंत्रण और निगरानी उपलब्ध कराने पर केंद्रित है।
