AI Misuse & Deepfake Threat: आर्टिफिशियल इंटेलिजेंस (AI) जहां एक ओर तकनीक को नई ऊंचाइयों पर ले जा रहा है, वहीं इसका दुरुपयोग महिलाओं की सुरक्षा के लिए गंभीर खतरा बनता जा रहा है। सोशल मीडिया प्लेटफॉर्म X (पूर्व में ट्विटर) पर Grok AI से जुड़े अश्लील कंटेंट विवाद ने यह साफ कर दिया है कि यह समस्या केवल भारत तक सीमित नहीं, बल्कि एक वैश्विक मानवाधिकार संकट का रूप ले चुकी है। संयुक्त राष्ट्र से लेकर भारत सरकार और राष्ट्रीय महिला आयोग तक, सभी ने AI के गलत इस्तेमाल पर चिंता जताते हुए कड़े कानून और सख्त कार्रवाई की जरूरत बताई है।
भारत ही नहीं, पूरी दुनिया में AI दुरुपयोग की बढ़ती चिंता
महिलाओं की तस्वीरों और वीडियो से डीपफेक अश्लील कंटेंट बनाना अब तेजी से बढ़ता साइबर अपराध बन चुका है। संयुक्त राष्ट्र जनसंख्या कोष (UNFPA) की रिपोर्ट के मुताबिक, AI के दुरुपयोग से:
-
साइबर स्टॉकिंग
-
फर्जी प्रोफाइल बनाना
-
बिना अनुमति फोटो-वीडियो शेयर करना
-
डीपफेक पोर्नोग्राफी
जैसे अपराधों में तेज़ी से इज़ाफा हुआ है। एक्सपर्ट्स मानते हैं कि यह अब केवल ऑनलाइन ट्रोलिंग नहीं, बल्कि महिलाओं के सम्मान, सुरक्षा और निजता पर सीधा हमला है।
राष्ट्रीय महिला आयोग की सख्त चेतावनी
भारत में राष्ट्रीय महिला आयोग (NCW) ने AI से बने फर्जी और अश्लील कंटेंट को लेकर सरकार से तत्काल कानूनी सुधार की मांग की है। एनसीडब्ल्यू का कहना है कि मौजूदा साइबर कानून डीपफेक और AI-जनित अपराधों से निपटने में नाकाफी साबित हो रहे हैं।
एनसीडब्ल्यू अध्यक्ष विजया किशोर राहतकर ने मांग की है कि:
-
AI से बने फर्जी कंटेंट को स्पष्ट रूप से अपराध घोषित किया जाए
-
सोशल मीडिया प्लेटफॉर्म्स की कानूनी जिम्मेदारी तय की जाए
-
पीड़ित महिलाओं को त्वरित न्याय मिले (AI Misuse & Deepfake Threat)
X और Grok AI पर सरकार की सख्ती
राज्यसभा सांसद प्रियंका चतुर्वेदी द्वारा मुद्दा उठाए जाने के बाद आईटी मंत्रालय ने X प्लेटफॉर्म को नोटिस जारी किया है।
सरकार के अनुसार, Grok AI का इस्तेमाल महिलाओं के अश्लील और आपत्तिजनक कंटेंट बनाने में किया जा रहा है, जो:
-
IT Act 2000
-
IT Rules 2021
का सीधा उल्लंघन है। मंत्रालय ने X को:
Also Read- Gemini AI for Video Editing: Gemini AI बना वीडियो एडिटर्स का स्मार्ट पार्टनर, इन 6 प्रॉम्प्ट्स से घंटों का काम मिनटों में होगा पूरा…
-
72 घंटे में आपत्तिजनक कंटेंट हटाने
-
नियम तोड़ने वाले अकाउंट्स को सस्पेंड या टर्मिनेट करने
-
भविष्य में AI दुरुपयोग रोकने के ठोस उपाय करने
के निर्देश दिए हैं।
डीपफेक से बढ़ता खतरा: चौंकाने वाले आंकड़े
हाल के मामलों में अभिनेत्री गिरीजा ओक और सोशल मीडिया इंफ्लुएंसर कामिया बुच के नाम सामने आए हैं, जिनके डीपफेक कंटेंट वायरल हुए।
McAfee रिपोर्ट के अनुसार:
-
भारत में 75% लोग डीपफेक कंटेंट देख चुके हैं
-
38% लोग खुद इसका शिकार बने हैं
सरकारी आंकड़े बताते हैं कि 2020 से 2024 के बीच महिलाओं के खिलाफ साइबर अपराधों में 118% की बढ़ोतरी हुई है। विशेषज्ञों का मानना है कि अगर निचली अदालतों और साइबर सेल को तकनीकी रूप से मजबूत नहीं किया गया, तो यह खतरा और गंभीर हो सकता है।
Leave a Reply