अमेरिका के टेनेसी राज्य में आर्टिफिशियल इंटेलिजेंस के दुरुपयोग का एक चौंकाने वाला मामला सामने आया है, जहां तीन किशोरों ने AI कंपनी xAI और इसके प्रमुख Elon Musk के खिलाफ मुकदमा दायर किया है। आरोप है कि कंपनी के AI टूल्स का इस्तेमाल कर उनकी असली तस्वीरों को मॉर्फ करके अश्लील और यौन रूप से आपत्तिजनक कंटेंट तैयार किया गया।
यह मामला कैलिफोर्निया में दर्ज किया गया है, जहां कंपनी का मुख्यालय स्थित है। याचिका में छात्रों ने अपनी पहचान गोपनीय रखते हुए ‘जेन डो’ के नाम से केस दाखिल किया है। उन्होंने इसे क्लास-एक्शन मुकदमे में बदलने की मांग की है, ताकि ऐसे सभी संभावित पीड़ितों को न्याय मिल सके, जिनकी तस्वीरों का इसी तरह दुरुपयोग किया गया हो।
मुकदमे में कहा गया है कि एक पीड़ित छात्रा को दिसंबर में गुमनाम सूचना मिली कि उसकी अश्लील तस्वीरें सोशल मीडिया प्लेटफॉर्म्स पर साझा की जा रही हैं। जब जांच की गई तो सामने आया कि उसकी असली तस्वीरों—जिनमें स्कूल इवेंट और निजी पलों की फोटो शामिल थीं—को AI टूल्स की मदद से मॉर्फ कर आपत्तिजनक रूप दिया गया था।
FutureCrime Summit 2026 Calls for Speakers From Government, Industry and Academia
दस्तावेज़ों के अनुसार, कम से कम पांच फाइलों—एक वीडियो और चार तस्वीरों—में छात्रा का असली चेहरा और शरीर दिखाया गया, लेकिन उन्हें नकली और अश्लील परिस्थितियों में प्रस्तुत किया गया। आरोप है कि यह सामग्री तैयार करने वाला व्यक्ति पीड़िता को जानता था और उसने कंपनी के इमेज-जनरेशन टूल्स का इस्तेमाल किया।
जांच के दौरान यह भी खुलासा हुआ कि आरोपी ने कम से कम 18 अन्य लड़कियों की तस्वीरों के साथ भी इसी तरह का दुरुपयोग किया। इन तस्वीरों को विभिन्न प्लेटफॉर्म्स पर अपलोड कर अन्य आपत्तिजनक सामग्री के बदले साझा किया जा रहा था। बाद में कार्रवाई के दौरान आरोपी को गिरफ्तार किया गया और उसके इलेक्ट्रॉनिक डिवाइस से यह सामग्री बरामद की गई।
याचिका में यह गंभीर आरोप भी लगाया गया है कि कंपनी के AI टूल्स—विशेष रूप से ‘Grok’—को इस तरह डिजाइन किया गया कि वे स्पष्ट और संवेदनशील कंटेंट तैयार कर सकें। जबकि कई अन्य टेक कंपनियां अपने प्लेटफॉर्म पर ऐसे कंटेंट को पूरी तरह प्रतिबंधित कर चुकी हैं, आरोप है कि यहां पर्याप्त सुरक्षा उपाय लागू नहीं किए गए।
मुकदमे में यह भी कहा गया है कि तकनीकी रूप से ऐसा कोई प्रभावी सिस्टम मौजूद नहीं है, जो वयस्कों के लिए स्पष्ट कंटेंट की अनुमति देते हुए नाबालिगों से जुड़े कंटेंट को पूरी तरह रोक सके। आरोप लगाया गया है कि इस जोखिम की जानकारी होने के बावजूद टूल्स को सार्वजनिक रूप से उपलब्ध कराया गया।
इस मामले ने AI तकनीक के उपयोग और उसके दुरुपयोग को लेकर नई बहस छेड़ दी है। पीड़ितों का कहना है कि इंटरनेट पर एक बार अपलोड हुई ऐसी तस्वीरें हमेशा के लिए मौजूद रह सकती हैं, जिससे उनके सामाजिक, शैक्षणिक और मानसिक जीवन पर गहरा असर पड़ सकता है।
मुकदमे में यह भी उल्लेख किया गया है कि पीड़ित छात्र गंभीर मानसिक तनाव, डर और सामाजिक अलगाव का सामना कर रहे हैं। एक छात्रा ने बताया कि वह स्कूल जाने से डरती है, जबकि दूसरी को यह चिंता सता रही है कि ये तस्वीरें भविष्य में उसके करियर और निजी जीवन को प्रभावित कर सकती हैं।
कंपनी की ओर से इस मामले पर कोई विस्तृत आधिकारिक प्रतिक्रिया नहीं दी गई है, हालांकि सोशल मीडिया प्लेटफॉर्म X पर यह कहा गया है कि बाल शोषण और गैर-सहमति वाले कंटेंट के खिलाफ “जीरो टॉलरेंस” नीति अपनाई जाती है और ऐसे मामलों में सख्त कार्रवाई की जाती है।
विशेषज्ञों का मानना है कि यह मामला केवल एक कंपनी तक सीमित नहीं है, बल्कि तेजी से विकसित हो रही AI तकनीक के साथ जुड़े खतरों की गंभीर चेतावनी है। उनका कहना है कि सख्त नियम, बेहतर मॉडरेशन और तकनीकी नियंत्रण ही भविष्य में ऐसे मामलों को रोकने में अहम भूमिका निभा सकते हैं
