नई दिल्ली। मेटा का आर्टिफिशियल इंटेलिजेंस (एआई) एजेंट Muse अपने लॉन्च के कुछ ही महीनों में एक करोड़ से अधिक डाउनलोड हासिल कर चुका है, लेकिन इसकी शुरुआती सफलता के साथ ही सुरक्षा और निजता से जुड़े गंभीर सवाल भी खड़े हो गए हैं। कंपनी के कर्मचारियों ने आंतरिक मंचों पर शिकायत की है कि यह एआई एजेंट कई बार बिना किसी निर्देश के ऐसे संदेश भेज रहा है, जिनका उनकी बातचीत से कोई संबंध नहीं है। कुछ मामलों में Muse ने बैंक खातों के बैलेंस, खरीदारी, बच्चों की देखभाल और निजी संदेशों से जुड़ी ऐसी जानकारियां साझा कीं, जिन्हें संबंधित उपयोगकर्ताओं ने उससे कभी नहीं मांगा था।
मेटा ने सितंबर में Muse को लॉन्च किया था। इसका प्रतीक एक मुस्कुराता हुआ रोएंदार किरदार ‘जॉली’ है। कंपनी इसे ऐसे डिजिटल सहायक के रूप में विकसित कर रही है, जो उपयोगकर्ताओं की ओर से ईमेल का जवाब देने, अपॉइंटमेंट बुक करने और ऑनलाइन खरीदारी जैसे काम कर सके। मेटा को उम्मीद है कि यह उत्पाद भविष्य में एआई कारोबार से अरबों डॉलर का राजस्व पैदा करने में मदद करेगा। हालांकि, कर्मचारियों की शिकायतों ने इस तकनीक के इस्तेमाल से जुड़े जोखिम उजागर कर दिए हैं।
FCRF Launches Certified Chief Risk Officer (CRO) Program for India’s Risk Leaders
कर्मचारियों की आंतरिक पोस्ट के मुताबिक, कुछ लोगों को Muse ने ऐसे बैंक खातों का बैलेंस बताया, जिनसे उनका कोई संबंध नहीं था। एक कर्मचारी ने बताया कि मछली पकड़ने के लिए मौसम और समुद्र में ज्वार की जानकारी देने वाली नियमित बातचीत के बीच एजेंट ने अचानक दो बैंक खातों का विवरण भेज दिया। इसमें एक खाते में 2,722.58 डॉलर और दूसरे में 5,899.57 डॉलर का बैलेंस बताया गया। कर्मचारी ने ऐसा कोई सवाल नहीं पूछा था।
एक अन्य कर्मचारी ने अपने निजी फोन पर Muse का इस्तेमाल करते हुए पाया कि एजेंट ने उसे Signal पर अपनी बहन के संदेश का जवाब देने की याद दिलाई। Signal एक एंड-टू-एंड एन्क्रिप्टेड मैसेजिंग सेवा है, जिसे निजता को लेकर सतर्क उपयोगकर्ता पसंद करते हैं। कर्मचारी ने सवाल उठाया कि जब उसने Muse को दूसरे ऐप तक पहुंचने की अनुमति नहीं दी थी, तो उसे Signal पर आए संदेश की जानकारी कैसे मिली।
कंपनी के एक अन्य कर्मचारी ने बताया कि Android फोन में शुरुआती सेटअप के दौरान Muse को डिफॉल्ट रूप से पुश नोटिफिकेशन देखने की अनुमति मिल सकती है। इस सुविधा के जरिये एजेंट दूसरे ऐप से आने वाले नोटिफिकेशन का टेक्स्ट पढ़ सकता है। कर्मचारियों को आशंका है कि उपयोगकर्ता इस अनुमति के दायरे और इसके संभावित प्रभाव को पूरी तरह समझ नहीं पा रहे हैं।
इस मामले की पड़ताल में दो दर्जन से अधिक आंतरिक पोस्ट सामने आईं, जिनमें Muse के अनचाहे व्यवहार की शिकायत की गई थी। कुछ पोस्ट सितंबर के मध्य की हैं, जबकि नवंबर तक ऐसी समस्याएं सामने आती रहीं। जांच के दौरान Signal और एआई के सामाजिक प्रभावों पर काम करने वाले AI Now Institute के विशेषज्ञों के साथ परीक्षण भी किए गए। इन परीक्षणों में पाया गया कि Muse कुछ परिस्थितियों में Signal संदेशों तक पहुंच सकता है।
परीक्षणों के अनुसार, Android फोन पर एजेंट ने पुश नोटिफिकेशन पढ़ने की अनुमति का इस्तेमाल करके Signal संदेशों का टेक्स्ट हासिल किया। Apple के macOS पर उसने कंप्यूटर की एक्सेसिबिलिटी और स्क्रीनशॉट सुविधाओं का उपयोग किया। ये सुविधाएं मूल रूप से दिव्यांग लोगों को कंप्यूटर चलाने में सहायता देने के लिए बनाई गई हैं। परीक्षण में iPhone पर इसी तरह के अनुरोधों को रोक दिया गया।
मेटा ने इन घटनाओं को अलग-अलग और सीमित मामले बताते हुए कहा है कि सुरक्षा उसकी प्राथमिकता है। कंपनी के प्रवक्ता डेनियल रॉबर्ट्स के अनुसार, Muse को प्रभावी ढंग से काम करने के लिए उपयोगकर्ताओं के कंप्यूटर को देखने और उनसे संवाद करने की क्षमता चाहिए। दूसरे ऐप तक पहुंच केवल उन्हीं अनुमतियों के जरिये संभव है, जिन्हें उपयोगकर्ता देते हैं। उन्होंने कहा कि कर्मचारियों द्वारा खाता-संबंधी गड़बड़ी के रूप में बताई गई कई घटनाएं एआई की ‘हैलुसिनेशन’ यानी मनगढ़ंत जानकारी उत्पन्न करने की प्रवृत्ति से जुड़ी थीं और उन्हें ठीक किया जा चुका है।
हालांकि, यह स्पष्ट नहीं हो सका कि Muse ने वास्तव में दूसरे लोगों के बैंक खातों का विवरण साझा किया था या ये जानकारियां भी एआई ने खुद गढ़ी थीं। कर्मचारियों ने यह भी शिकायत की कि एजेंट ने ऐसी खरीदारी और लेनदेन की जानकारी दी, जो कभी हुए ही नहीं। कुछ मामलों में उसने खरीदे गए उत्पादों की गलत कीमत बताई, जिससे उपयोगकर्ताओं को आर्थिक नुकसान होने की बात सामने आई। एक कर्मचारी ने यह भी बताया कि Muse ने उसकी अनुमति के बिना Airbnb पर ऐसा ठहराव बुक कर दिया, जिसका भुगतान वापस नहीं किया जा सकता था।
कुछ शिकायतों में एजेंट ने बिना किसी सवाल या निर्देश के बच्चों के डेटा तक पहुंच, अभिभावकीय नियंत्रण और देखभाल से जुड़े संदेश भेजे। एक कर्मचारी को ऐसा संदेश मिला, जिसमें किसी बच्चे के डेटा तक पहुंच नियंत्रित करने के अनुरोध को पूरा न कर पाने की बात कही गई थी। जब उसने Muse से पूछा कि यह संदेश क्यों आया, तो एजेंट ने जवाब दिया कि उसका पिछली बातचीत से कोई संबंध नहीं था और उसे नजरअंदाज किया जा सकता है।
मेटा की सुपरइंटेलिजेंस टीम के एक सदस्य ने आंतरिक मंच पर कहा कि ऐसी कुछ गड़बड़ियां उन अंतर्निहित निर्देशों से जुड़ी हो सकती हैं, जिनके तहत Muse उपयोगकर्ताओं के सक्रिय न होने पर भी उनसे बातचीत शुरू करता है। उन्होंने माना कि वित्त, सुरक्षा और निजता जैसे संवेदनशील विषयों पर एआई की मनगढ़ंत प्रतिक्रियाएं विशेष रूप से असहज स्थिति पैदा कर सकती हैं। टीम इन समस्याओं पर काम कर रही है, लेकिन कंपनी ने ऐसी घटनाओं की कुल संख्या बताने से इनकार किया।
Signal की अध्यक्ष मेरेडिथ व्हिटेकर ने व्यापक डिवाइस एक्सेस रखने वाले एआई एजेंटों को बिना पर्याप्त सुरक्षा के बाजार में उतारने पर चिंता जताई। उनका कहना है कि ऐप डेवलपर्स को तकनीकी रूप से यह तय करने का अधिकार मिलना चाहिए कि उनके ऐप एआई एजेंटों की पहुंच से बाहर रहें। साथ ही, ऑपरेटिंग सिस्टम कंपनियों को ऐसी सीमाओं का पालन सुनिश्चित करना चाहिए।
मेटा का दावा है कि प्रत्येक Muse एजेंट को अलग सुरक्षित वर्चुअल मशीन में रखा जाता है और उपयोगकर्ता यह नियंत्रित कर सकते हैं कि कौन-से ऐप उससे जोड़े जाएं। लेकिन इन घटनाओं ने दिखाया है कि केवल अनुमति देना पर्याप्त नहीं है; यह भी जरूरी है कि उपयोगकर्ता समझ सकें कि उन अनुमतियों का इस्तेमाल किस तरह हो सकता है। एआई एजेंटों को स्मार्टफोन और कंप्यूटर तक गहरी पहुंच देने की होड़ में निजता, डेटा सुरक्षा और उपयोगकर्ता की सहमति सबसे बड़ी चुनौतियां बनती जा रही हैं।
