नई दिल्ली: भारत में डीपफेक, फर्जी खबरों और AI की मदद से तैयार किए जा रहे भ्रामक फोटो-वीडियो के बढ़ते प्रसार के बीच केंद्र सरकार ने सोशल मीडिया कंपनी Meta के खिलाफ अपना रुख और सख्त कर दिया है। इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने शनिवार को Meta के अधिकारियों के साथ हुई बैठक में प्लेटफॉर्म के कंटेंट मॉडरेशन सिस्टम और एल्गोरिदम में तत्काल सुधार करने को कहा। सरकार ने कंपनी से डीपफेक और भ्रामक सामग्री के प्रसार को रोकने के लिए स्पष्ट Compliance Roadmap देने को भी कहा है।
सरकार की चिंता केवल आपत्तिजनक सामग्री को हटाने तक सीमित नहीं है। अधिकारियों ने इस बात पर जोर दिया कि ऐसे कंटेंट को एल्गोरिदम के जरिए बड़े पैमाने पर फैलने से रोकना भी जरूरी है। सरकार का मानना है कि यदि फर्जी वीडियो, तस्वीरें या प्रचारात्मक सामग्री तेजी से अधिक उपयोगकर्ताओं तक पहुंचती है, तो उसका सामाजिक प्रभाव कंटेंट हटाए जाने के बाद भी बना रह सकता है।
सरकारी अनुरोधों पर तुरंत कार्रवाई की मांग
बैठक में सरकार ने Meta से सरकारी एजेंसियों की ओर से भेजे जाने वाले कंटेंट हटाने संबंधी अनुरोधों पर तेजी से कार्रवाई करने को कहा। अधिकारियों के अनुसार, संवेदनशील और गंभीर मामलों में लंबी प्रक्रिया या देरी से गलत सूचना का प्रसार बढ़ सकता है।
सरकार ने यह भी कहा कि Meta को अपने प्लेटफॉर्म पर फर्जी खबरों, डीपफेक और भ्रामक प्रचार सामग्री की पहचान और रोकथाम के लिए अधिक प्रभावी तकनीकी व्यवस्था विकसित करनी चाहिए। विशेष रूप से AI-generated फोटो और वीडियो की पहचान करने वाली प्रणालियों को मजबूत करने और ऐसे कंटेंट पर आवश्यक कार्रवाई में तेजी लाने की जरूरत बताई गई।
एल्गोरिदम में बदलाव पर जोर
सरकार की प्रमुख मांगों में Meta के एल्गोरिदम में ऐसे बदलाव करना शामिल है, जिससे संदिग्ध या भ्रामक सामग्री अपने आप अधिक लोगों तक न पहुंचे। अधिकारियों ने स्पष्ट किया कि केवल उपयोगकर्ताओं की शिकायतों के बाद कंटेंट हटाना पर्याप्त नहीं होगा। प्लेटफॉर्म को ऐसे सिस्टम विकसित करने होंगे जो वायरल होने की क्षमता रखने वाली हानिकारक सामग्री की पहचान शुरुआती स्तर पर कर सकें।
सरकार ने भारत के डेटा लोकलाइजेशन नियमों के पूर्ण अनुपालन पर भी जोर दिया। अधिकारियों के मुताबिक, डिजिटल प्लेटफॉर्म को भारतीय कानूनों और नियामकीय आवश्यकताओं के अनुरूप अपनी डेटा और कंटेंट मॉडरेशन व्यवस्था संचालित करनी होगी।
Meta ने बताई मौजूदा व्यवस्था की कमियां
बैठक के दौरान Meta की तकनीकी टीम ने अधिकारियों को बताया कि कंपनी हानिकारक और आपत्तिजनक सामग्री से निपटने के लिए किन तकनीकी प्रणालियों का इस्तेमाल कर रही है। कंपनी ने अपनी मौजूदा व्यवस्था में कुछ कमियों को स्वीकार करते हुए उन्हें दूर करने के लिए प्रस्तावित तकनीकी उपायों की जानकारी दी।
हालांकि, सरकारी अधिकारियों ने केवल आश्वासन पर संतोष नहीं जताया। उन्होंने कहा कि मौजूदा चुनौतियों से निपटने के लिए वास्तविक और मापने योग्य बदलाव जरूरी हैं। सरकार ने Meta से ठोस तकनीकी सुधार और स्पष्ट अनुपालन योजना प्रस्तुत करने को कहा है। इस मुद्दे पर अगले सप्ताह दोनों पक्षों के बीच एक और बैठक होने की संभावना है।
CSAM और डीपफेक को लेकर पहले भी उठे सवाल
Meta भारत में बाल यौन शोषण सामग्री (CSAM) और डीपफेक जैसे गंभीर मुद्दों को लेकर पहले भी सरकारी जांच और आलोचना के दायरे में रह चुका है। इन मामलों में प्लेटफॉर्म की कंटेंट मॉडरेशन व्यवस्था और हानिकारक सामग्री की पहचान करने की क्षमता पर सवाल उठते रहे हैं।
सरकार ने इस साल की शुरुआत में IT नियमों में बदलाव भी किए थे, जिसके बाद AI-generated और भ्रामक डिजिटल सामग्री को लेकर ऑनलाइन प्लेटफॉर्म की जवाबदेही बढ़ाई गई। नए नियामकीय दृष्टिकोण के तहत सोशल मीडिया कंपनियों से कंटेंट की पहचान, रोकथाम और शिकायतों के निपटारे में अधिक सक्रिय भूमिका निभाने की अपेक्षा की जा रही है।
बढ़ते AI कंटेंट के बीच बढ़ी चुनौती
AI तकनीक के तेजी से विस्तार ने डीपफेक और भ्रामक सामग्री को तैयार करना पहले की तुलना में आसान बना दिया है। किसी व्यक्ति की आवाज, चेहरा या बयान को बदलकर तैयार किए गए वीडियो वास्तविक प्रतीत हो सकते हैं। ऐसे कंटेंट का इस्तेमाल धोखाधड़ी, बदनाम करने, गलत सूचना फैलाने और सामाजिक तनाव पैदा करने के लिए किया जा सकता है।
