नई दिल्ली. आर्टिफिशियल इंटेलिजेंस की रफ्तार जितनी तेज है, उसके दुरुपयोग का खतरा उतना ही गंभीर होता जा रहा है. दिसंबर 2025 के अंत और जनवरी 2026 की शुरुआत में एलन मस्क (Elon Musk) की कंपनी xAI के चैटबॉट ग्रोक (Grok) से जुड़ी कॉन्ट्रोवर्सी ने यह सवाल खड़ा कर दिया कि क्या टेक्नोलॉजी इंसानी गरिमा और सहमति की सीमाओं को लांघ रही है. सोशल मीडिया प्लेटफॉर्म X पर सामने आए मामलों में यूजर्स ने महिलाओं की सामान्य तस्वीरों पर ऐसे प्रॉम्प्ट दिए, जिनसे उन्हें कपड़ों के बिना या सेक्शुअलाइज्ड रूप में दिखाने वाली एआई जेनरेटेड इमेज बनाई गईं. ये तस्वीरें पब्लिक थ्रेड्स में पोस्ट की गईं, जिससे पीड़ित महिलाओं की गरिमा, प्राइवेसी और सहमति पर सीधा हमला हुआ.
बीते साल के आखिरी हफ्ते में X पर एक ट्रेंड तेजी से फैलने लगा. यूजर्स महिलाओं की तस्वीरों पर रिप्लाई करते हुए ग्रोक से remove clothes या बिकिनी में दिखाने जैसे प्रॉम्प्ट देने लगे. देखते ही देखते हजारों आपत्तिजनक एआई इमेजेस प्लेटफॉर्म पर फैल गईं. कुछ मामलों में नाबालिग लड़कियों की उम्र 12 से 16 साल के बीच होने का अनुमान भी लगाया गया, जिससे मामला और गंभीर हो गया. 28 दिसंबर 2025 को ग्रोक द्वारा दो युवा लड़कियों की सेक्शुअलाइज्ड इमेज जेनरेट किए जाने के बाद भारी आलोचना हुई, जिसके बाद ग्रोक को सार्वजनिक तौर पर माफी मांगनी पड़ी.
xAI और एलन मस्क का रुख
xAI ने माना कि ग्रोक की minimal censorship पॉलिसी इस मामले में बैकफायर कर गई. कंपनी ने कहा कि अब इमेज जेनरेशन में सख्त सेफगार्ड्स लगाए गए हैं. नॉन कंसेंशुअल, सेक्शुअल, न्यूड या किसी भी तरह के हरमफुल कंटेंट को अब सीधे ब्लॉक किया जाएगा. एलन मस्क ने भी सार्वजनिक तौर पर स्वीकार किया कि अनफिल्टर्ड ट्रुथ के नाम पर एआई को पूरी तरह खुला छोड़ना सही संतुलन नहीं था. अब कंपनी harm reduction और यूजर सेफ्टी पर ज्यादा फोकस कर रही है.
दुनिया में डीपफेक के खिलाफ कानून और सजा क्या है
डीपफेक को लेकर अब ज्यादातर देश इसे सिर्फ टेक्नोलॉजी का दुरुपयोग नहीं, बल्कि गंभीर अपराध मानने लगे हैं. खास तौर पर जब मामला बिना सहमति महिलाओं या किसी व्यक्ति की इंटीमेट तस्वीरों, वीडियो या पहचान से जुड़ा हो. ग्रोक जैसे मामलों के बाद अलग अलग देशों में कानून, सजा और प्लेटफॉर्म्स की जिम्मेदारी साफ तौर पर तय की जा रही है.
अमेरिका में क्या कानून है और क्या सजा है
अमेरिका में TAKE IT DOWN Act के तहत नॉन कंसेंशुअल इंटीमेट इमेजेस और डीपफेक को फेडरल अपराध माना गया है. इस कानून के मुताबिक किसी व्यक्ति की सहमति के बिना उसकी सेक्शुअल या इंटीमेट डीपफेक इमेज या वीडियो बनाना और फैलाना गैरकानूनी है. दोषी पाए जाने पर भारी जुर्माना और जेल की सजा हो सकती है.
इसके अलावा सोशल मीडिया प्लेटफॉर्म्स और वेबसाइट्स के लिए यह अनिवार्य किया गया है कि शिकायत मिलने के 48 घंटे के भीतर ऐसा कंटेंट हटाया जाए. अगर प्लेटफॉर्म ऐसा नहीं करता है तो उस पर भी फाइन और कानूनी कार्रवाई हो सकती है. कई अमेरिकी राज्यों में चुनावों से जुड़े डीपफेक फैलाने पर अलग से आपराधिक सजा का प्रावधान है, जिसमें जेल की अवधि बढ़ाई जा सकती है.
यूरोपीय यूनियन में कानून और पेनल्टी
यूरोपीय यूनियन ने EU AI Act के जरिए डीपफेक को लेकर सबसे सख्त फ्रेमवर्क तैयार किया है. इस कानून के तहत एआई से बने डीपफेक कंटेंट को साफ तौर पर लेबल करना अनिवार्य है. अगर किसी व्यक्ति की सहमति के बिना डीपफेक बनाया जाता है या उसे सेक्शुअल, भ्रामक या नुकसान पहुंचाने वाले तरीके से इस्तेमाल किया जाता है, तो यह सीधा कानून का उल्लंघन माना जाता है.
सजा के तौर पर कंपनियों पर उनके ग्लोबल टर्नओवर का 6 प्रतिशत तक जुर्माना लगाया जा सकता है. व्यक्तिगत स्तर पर डीपफेक बनाने और फैलाने वालों पर भारी फाइन और कुछ मामलों में जेल की सजा का भी प्रावधान है. प्लेटफॉर्म्स की जिम्मेदारी तय की गई है कि वे ऐसे कंटेंट को तुरंत हटाएं और रोकथाम के टूल्स लगाएं.
चीन में कितनी सख्ती है
चीन ने डीपफेक के खिलाफ बहुत पहले से सख्त कानून लागू कर रखे हैं. वहां एआई जेनरेटेड कंटेंट को स्पष्ट रूप से चिन्हित करना जरूरी है. बिना लेबल डीपफेक फैलाने पर क्रिएटर और प्लेटफॉर्म दोनों के खिलाफ कार्रवाई होती है.
अगर डीपफेक से किसी की छवि खराब होती है या सामाजिक नुकसान होता है, तो दोषी को भारी जुर्माना, सोशल मीडिया बैन और गंभीर मामलों में जेल की सजा भी दी जा सकती है.
ब्रिटेन और ऑस्ट्रेलिया में सजा
ब्रिटेन में नॉन कंसेंशुअल डीपफेक को यौन अपराध की श्रेणी में रखा गया है. बिना सहमति किसी की इंटीमेट डीपफेक इमेज बनाना या शेयर करना अपराध है, जिसमें जेल और जुर्माना दोनों हो सकते हैं.
ऑस्ट्रेलिया में भी इसी तरह के कानून हैं, जहां महिलाओं या किसी व्यक्ति की गरिमा को ठेस पहुंचाने वाले डीपफेक पर आपराधिक केस दर्ज होता है. दोषी को कई साल तक की जेल और आर्थिक दंड का सामना करना पड़ सकता है.
फ्रांस और डेनमार्क का कानून
फ्रांस में डीपफेक के जरिए किसी व्यक्ति की पहचान या इमेज को नुकसान पहुंचाना आपराधिक कृत्य माना गया है. यहां सजा में जेल के साथ साथ भारी फाइन का प्रावधान है. डेनमार्क में भी नॉन कंसेंशुअल डीपफेक को सीधे प्राइवेसी और सेक्शुअल क्राइम कानूनों के तहत देखा जाता है.
भारत में अभी क्या कानून है और सजा क्या है
भारत में फिलहाल डीपफेक के लिए कोई अलग कानून नहीं है, लेकिन आईटी एक्ट, महिलाओं की गरिमा से जुड़े कानून और डेटा प्रोटेक्शन नियमों के तहत कार्रवाई होती है. आईटी एक्ट की धाराओं के तहत आपत्तिजनक और बिना सहमति कंटेंट बनाने और फैलाने पर जेल और जुर्माने का प्रावधान है.
