मस्क की ग्रोक चैटबोट पर यूरोप का डीपफेक नियंत्रण परीक्षण

हैदराबाद, एलोन मस्क की ग्रोक चैटबोट यूरोप की उस क्षमता की परीक्षा ले रही है कि वह ऑनलाइन डीपफेक और डिजिटल रूप से छवियों को नग्न करने पर कितनी प्रभावी रोक लगा सकता है, हालांकि नियामकों ने दुर्लभ जीत दर्ज करते हुए मस्क की एक्सएआई कंपनी को यौनकृत छवियों के निर्माण को रोकने के लिए बाध्य किया। एक्सएआई ने बुधवार देर रात कहा कि उसने ग्रोक एआई उपयोगकर्ताओं के लिए छवि संपादन को सीमित कर दिया है, क्योंकि चैटबोट ने हजारों महिलाओं और नाबालिगों की यौनकृत छवियाँ उत्पन्न की थीं, जिससे वैश्विक नियामकों में चिंता पैदा हुई।

मस्क द्वारा यह पीछे हटना, जिन्होंने शुरू में इस प्रवृत्ति पर हंसी उड़ाई थी, यह दर्शाता है कि एआई उपकरणों की निगरानी करना कितना कठिन है, जो स्पष्ट सामग्री को सस्ती और आसान बना देते हैं। यह यूरोप और मस्क के बीच नवीनतम विवाद है, चुनाव में हस्तक्षेप और अभिव्यक्ति की स्वतंत्रता पर पहले भी टकराव हो चुका है। कई नियामक अभी भी एआई को नियंत्रित करने वाले कानून और नियम विकसित करने में संघर्ष कर रहे हैं, जैसे कि नग्नता की परिभाषा क्या होगी, सहमति कैसे मानी जाएगी और जिम्मेदारी किस पर होगी: उपयोगकर्ता या प्लेटफ़ॉर्म।

एक्सएआई ने अवैध क्षेत्रों में छवि निर्माण रोकने की घोषणा की

ब्रिटिश नियामक ऑफकॉम, जो इस मुद्दे पर सबसे मुखर है, ने मस्क के कदम का स्वागत किया, लेकिन कहा कि ग्रोक छवियों पर एक्सएआई के मामले में उनकी जांच जारी रहेगी। उनके अनुसार, हमारी औपचारिक जांच जारी है। हम लगातार काम कर रहे हैं कि यह पता लगाया जा सके कि क्या गलत हुआ और इसे ठीक करने के लिए क्या किया जा रहा है। इस महीने की शुरुआत में, ग्रोक ने एक्स पर महिलाओं की अतिवास्तविक छवियाँ बनाई, जिनमें उन्हें छोटे बिकनी में, अपमानजनक मुद्रा में या चोटों से ढके हुए दिखाया गया, जबकि कुछ नाबालिगों को डिजिटल रूप से स्विमवीयर में दिखाया गया।

चैटबोट अभी भी निजी तौर पर मांग पर यौनकृत छवियाँ उत्पन्न करता रहा। मस्क की एक्सएआई ने कहा कि वह उपयोगकर्ताओं को उन क्षेत्राधिकारों में छवियाँ बनाने से रोक रहा है जहाँ यह अवैध है, हालांकि इन क्षेत्रों की पहचान नहीं कराई। मलेशिया और इंडोनेशिया में सरकार ने ग्रोक पर अस्थायी प्रतिबंध लगा दिया है, जबकि यूरोपीय संघ और ब्रिटेन के नियामकों ने इन छवियों को अवैध बताया।

ब्रिटेन, फ्रांस और इटली ने जांच शुरू की, लेकिन सख्त कार्रवाई की माँगें भी हुईं। क्रिश्चियन डेमोक्रेट एमईपी नीना कार्बरी ने कहा, डिजिटल सेवा अधिनियम के तहत सख्त प्रवर्तन की आवश्यकता है, ताकि महिलाओं और बच्चों को यौनकृत या नग्न करने वाले ऐप्स और प्लेटफ़ॉर्म को रोका जा सके। यूरोपीय आयोग के प्रवक्ता ने कहा कि यदि ग्रोक में बदलाव प्रभावी नहीं हुए, तो आयोग डीएसए के पूरे प्रवर्तन उपकरण का उपयोग करेगा।

यह भी पढ़ें… गूगल ने भारतीय स्टार्टअप के लिए ‘बाजार पहुंच कार्यक्रम’ शुरू किया

यूरोपीय संघ और ब्रिटेन कानून में डीपफेक और नग्न छवियों के नियम

ब्रिटेन का ऑनलाइन सुरक्षा अधिनियम बिना सहमति के अंतरंग छवियों की साझेदारी को ‘प्राथमिक अपराध’ मानता है, जिसमें एआई-जनित डीपफेक भी शामिल हैं। ब्रिटिश वकील अलेक्ज़ेंडर ब्राउन के अनुसार, इसका अर्थ है कि एक्स को ऐसी सामग्री के प्लेटफ़ॉर्म पर आने से रोकने और जल्द हटाने के लिए सक्रिय और अनुपातिक कदम उठाने होंगे। ब्रिटिश नियामक सबसे गंभीर मामलों में कंपनी को 10% तक राजस्व का जुर्माना लगा सकता है या अदालत से साइट को ब्लॉक करने का आदेश मांग सकता है। व्यक्तियों के लिए प्लेटफ़ॉर्म पर मुकदमा करना बेहद कठिन और भारी प्रक्रिया है। डीपफेक कई वर्षों से मौजूद हैं, लेकिन वे अधिकांशतः वेब के अंधेरे कोनों तक सीमित थे।

एक्स की प्रकाशन शक्ति ग्रोक को अभूतपूर्व पहुँच देती है। अमेरिका की वकील कैरी गोल्डबर्ग के अनुसार, इस सरल प्रकाशन क्षमता से डीपफेक बड़ी संख्या में फैल सकते हैं। ब्रिटेन और स्वीडन के कानून बिना सहमति के नग्न छवियों को साझा करना गैरकानूनी मानते हैं। ब्रिटेन कानून का विस्तार कर ऐसी छवियाँ बनाने को भी शामिल कर रहा है। डीएसए के तहत, सेवा को निलंबित करना अंतिम उपाय माना जाता है।

यूरोपीय संघ का एआई अधिनियम केवल डीपफेक के लिए पारदर्शिता की जिम्मेदारियाँ तय करता है, नग्न छवियों के लिए कोई प्रावधान नहीं है। ब्रिटिश प्रधानमंत्री कीर स्टारमर ने एक्स के कदम का स्वागत किया, लेकिन चेताया, स्वतंत्र अभिव्यक्ति का अर्थ सहमति का उल्लंघन नहीं है। युवा महिलाओं की छवियाँ सार्वजनिक संपत्ति नहीं हैं, और उनकी सुरक्षा पर बहस नहीं हो सकती। यदि आवश्यक हुआ, तो हम मौजूदा कानूनों को और मजबूत करने के लिए तैयार हैं।

अब आपके लिए डेली हिंदी मिलाप द्वारा हर दिन ताज़ा समाचार और सूचनाओं की जानकारी के लिए हमारे सोशल मीडिया हैंडल की सेवाएं प्रस्तुत हैं। हमें फॉलो करने के लिए लिए Facebook , Instagram और Twitter पर क्लिक करें।

नवीनतम अपडेट के लिए हमारे व्हाट्सएप चैनल से जुड़ने के लिए यहां क्लिक करें