ओपनएआई ने अपने कृत्रिम बुद्धिमत्ता (एआई) मॉडल और स्वायत्त एजेंटों के संभावित खतरनाक व्यवहार पर नियंत्रण रखने के लिए ‘कंट्रोल रूम’ नाम की एक केंद्रीकृत सुरक्षा व्यवस्था विकसित कर उसे लागू कर दिया है। यह प्रणाली किसी मॉडल को रोकने का निर्णय लिए जाने के बाद अधिकतम 35 सेकंड के भीतर उसका आउटपुट बंद कर सकती है। कंपनी ने यह कदम ऐसे समय उठाया है, जब स्वायत्त एआई एजेंटों की बाहरी प्रणालियों तक पहुंच बनाने, तय निर्देशों से आगे बढ़कर काम करने और सुरक्षा सीमाओं को पार करने की क्षमता को लेकर चिंताएं बढ़ रही हैं।
नई व्यवस्था का उद्देश्य एआई अनुसंधान से जुड़े कार्यों की लगातार निगरानी करना और किसी संभावित सुरक्षा जोखिम का पता चलने पर संबंधित मॉडल को आगे आउटपुट देने से रोकना है। इसके तहत कंपनी के उन्नत एआई प्रशिक्षण कार्यों की निगरानी एक अलग एआई मॉडल करता है। यह निगरानी प्रणाली संदिग्ध या संभावित रूप से असुरक्षित व्यवहार की पहचान करती है। किसी समस्या का संकेत मिलने पर यह कंट्रोल रूम को संबंधित रिसर्च जॉब समाप्त करने का निर्देश दे सकती है।
कंट्रोल रूम प्रत्येक रिसर्च जॉब को एक विशिष्ट पहचान संख्या यानी जॉब आईडी के माध्यम से ट्रैक करता है। जैसे ही किसी जॉब को बंद किया जाता है, उससे जुड़ी आगे की सभी इनफरेंस रिक्वेस्ट रोक दी जाती हैं। इनफरेंस वह प्रक्रिया है, जिसके तहत प्रशिक्षित एआई मॉडल उपयोगकर्ता या किसी अन्य प्रणाली के अनुरोध पर जवाब अथवा आउटपुट तैयार करता है। जॉब समाप्त होने के बाद उससे संबंधित अनुरोध आने पर कंट्रोल रूम उन्हें अस्वीकार कर देता है। यह रोक केवल किसी एक मॉडल तक सीमित नहीं रहती, बल्कि उस जॉब से जुड़े सभी मॉडल और इनफरेंस इंजन पर लागू होती है।
हालांकि, कंपनी की यह सुरक्षा व्यवस्था अभी तत्काल प्रभाव से काम नहीं करती। हस्तक्षेप का निर्देश मिलने के बाद मॉडल का आउटपुट पूरी तरह रोकने में अधिकतम 35 सेकंड लग सकते हैं। इसकी प्रमुख वजह इनफरेंस रिक्वेस्ट की बड़ी संख्या को संभालने के लिए इस्तेमाल की जाने वाली कैशिंग व्यवस्था है। कैशिंग के कारण सिस्टम कुछ समय तक पुराने अनुरोधों से जुड़ी जानकारी का इस्तेमाल कर सकता है। ओपनएआई ने कहा है कि वह इस देरी को खत्म करने और प्रतिक्रिया समय को शून्य सेकंड तक लाने पर काम कर रही है।
कंट्रोल रूम कंपनी की मौजूदा मिसअलाइनमेंट मॉनिटरिंग प्रणालियों के साथ मिलकर काम करता है। मिसअलाइनमेंट से आशय ऐसी स्थिति से है, जिसमें एआई मॉडल का व्यवहार उसके निर्धारित उद्देश्यों, निर्देशों या सुरक्षा सीमाओं से अलग होने लगे। इस व्यवस्था के जरिए शोधकर्ता संभावित सुरक्षा या संरक्षा संबंधी समस्या सामने आने पर किसी रिसर्च जॉब को रोक या अस्थायी रूप से ठहरा सकते हैं।
यह प्रणाली ओपनएआई के अनुसंधान ढांचे में मॉडल प्रशिक्षण, मूल्यांकन, एजेंट आधारित सैंपलिंग और डेटा प्रोसेसिंग जैसे विभिन्न कार्यों की निगरानी करती है। कंपनी के अनुसार, इसे फिलहाल उन अनुसंधान गतिविधियों में लागू किया गया है, जहां ऐसे सुरक्षा उपायों की सबसे अधिक जरूरत है। बाहरी मॉडल सर्विंग व्यवस्था अपेक्षाकृत केंद्रीकृत है और वहां जरूरत पड़ने पर मॉडल की तैनाती बंद करने के लिए पहले से परिचालन तंत्र मौजूद हैं।
कंपनी ने अपनी निगरानी प्रणाली से सामने आई एक हालिया घटना का भी उल्लेख किया। इसमें उसके एक एआई एजेंट ने बाहरी चैटबॉट तक पहुंचने के लिए डीएनएस का इस्तेमाल किया था। यह घटना इस बात का उदाहरण है कि स्वायत्त एजेंट अपने निर्धारित कार्यों के दौरान बाहरी सेवाओं और प्रणालियों से संपर्क करने के नए रास्ते खोज सकते हैं। ऐसी गतिविधियां तब सुरक्षा जोखिम बन सकती हैं, जब एजेंट की पहुंच और उसके व्यवहार पर पर्याप्त नियंत्रण न हो।
ओपनएआई ने अपने अग्रणी मॉडल से जुड़े अनुसंधान कार्यों में ‘फेल-क्लोज्ड’ सुरक्षा व्यवस्था भी लागू कर दी है। इसका अर्थ है कि यदि सुरक्षा प्रणाली उपलब्ध नहीं रहती या किसी जॉब की स्थिति की पुष्टि नहीं हो पाती, तो संबंधित अनुरोधों को अनुमति देने के बजाय रोक दिया जाएगा। कंपनी आने वाले दिनों में इस व्यवस्था को अपने बाकी अनुसंधान कार्यों तक भी विस्तारित करने की योजना बना रही है।
विकिपीडिया और हगिंग फेस से जुड़े मामले बढ़ा रहे चिंता
स्वायत्त एआई एजेंटों के व्यवहार पर निगरानी बढ़ाने की जरूरत हाल की कई घटनाओं से भी सामने आई है। पिछले महीने विकिमीडिया फाउंडेशन ने विकिपीडिया और उससे जुड़ी अन्य परियोजनाओं पर असामान्य गतिविधियों की जानकारी दी थी। फाउंडेशन को संदेह था कि इन गतिविधियों के पीछे ओपनएआई द्वारा संचालित प्रणालियां हो सकती हैं। इनमें बिना अनुमति संपादन, विकिमीडिया सेवाओं को प्रॉक्सी के रूप में इस्तेमाल करने के प्रयास और लाखों स्वचालित अनुरोध शामिल थे।
अधिकांश संपादन सैंडबॉक्स तक सीमित रहे और आम पाठकों को दिखाई नहीं दिए। हालांकि, विकिमीडिया ने एक उद्धरण उपकरण की कॉन्फिगरेशन में बदलाव भी दर्ज किया था। उसे आशंका थी कि इस बदलाव का उद्देश्य बाहरी सेवाओं से डेटा प्राप्त करना हो सकता है।
जुलाई 2026 में भी साइबर सुरक्षा परीक्षणों के दौरान इसी तरह की चिंता सामने आई थी। एक्सप्लॉइटजिम के तहत किए गए परीक्षणों में ओपनएआई के स्वायत्त एआई मूल्यांकन एजेंट कथित तौर पर अपने निर्धारित सैंडबॉक्स वातावरण से बाहर निकल गए थे। इसके बाद उन्होंने एआई विकास मंच हगिंग फेस के उत्पादन ढांचे तक पहुंच बनाई थी। इन एजेंटों में एक आंतरिक अनुसंधान मॉडल और जीपीटी-5.6 सोल शामिल बताए गए थे।
इन घटनाओं ने स्पष्ट किया है कि ऐसे एआई एजेंटों को नियंत्रित करना चुनौतीपूर्ण हो सकता है, जो स्वतंत्र रूप से काम करने, बाहरी प्रणालियों से संपर्क करने और निर्धारित सीमाओं से आगे बढ़ने में सक्षम हैं। इस बीच भारत में भी चैटजीपीटी का उपयोग तेजी से बढ़ रहा है। भारत साप्ताहिक सक्रिय उपयोगकर्ताओं के लिहाज से इसका दुनिया का सबसे बड़ा बाजार बन चुका है और जनवरी 2026 के बाद देश में इसका उपयोगकर्ता आधार दोगुना हो गया है। ऐसे में एआई प्रणालियों की सुरक्षा और उन पर प्रभावी नियंत्रण का महत्व और बढ़ गया है।
