ग्रोक AI अश्लील कंटेंट विवाद : एक्स ने मानी गलती, 600 से अधिक खाते हटे

नई दिल्ली, सूचना प्रौद्योगिकी मंत्रालय द्वारा एलन मस्क के स्वामित्व वाले सोशल मीडिया मंच एक्स को ग्रोक एआई के अश्लील सामग्री मुद्दे पर चेतावनी दिए जाने के बाद माइक्रोब्लॉगिंग साइट ने अपनी गलती स्वीकार कर ली है और कहा है कि वह भारतीय कानूनों का पालन करेगी। सरकारी सूत्रों ने रविवार को यह जानकारी दी।

सूत्रों ने बताया कि लगभग 3,500 सामग्री ब्लॉक की गई हैं और 600 से अधिक खाते हटा दिए गए हैं। यह कदम ऐसे वक्त उठाया गया है, जब ग्रोक पर दुनिया भर की सरकारों का दबाव बढ़ता जा रहा है। नियामक हाल के दिनों में एक्स पर बड़ी संख्या में सामने आई आपत्तिजनक और बिना सहमति वाली यौन सामग्री, कंटेंट मॉडरेशन और डेटा सुरक्षा को लेकर जेनरेटिव एआई इंजन की कड़ी जाँच कर रहे हैं।

सूत्रों के अनुसार, एक्स ने अपनी गलती स्वीकार कर ली है और कहा है कि वह भारतीय कानूनों का पालन करेगी। साथ ही यह भी कहा है कि भविष्य में यह मंच अश्लील चित्रों की अनुमति नहीं देगा। इस सोशल मीडिया मंच के सेफ्टी हैंडल ने पिछले रविवार को कहा कि वह अपने मंच पर अवैध सामग्री, जिसमें बाल यौन शोषण सामग्री (सीएसएएम) भी शामिल है, के खिलाफ कार्रवाई करता है।

अवैध कंटेंट पर खाते निलंबन और एजेंसियों से सहयोग का ऐलान

इसके तहत ऐसी सामग्री को हटाना, खातों को स्थायी रूप से निलंबित करना और आवश्यकतानुसार स्थानीय सरकारों एवं कानून प्रवर्तन एजेंसियों के साथ काम करना शामिल है। एक्स ने अवैध सामग्री पर मस्क के रुख को दोहराते हुए कहा था, ग्रोक का उपयोग करके या उससे अवैध सामग्री बनवाने वाले किसी भी व्यक्ति को वही परिणाम भुगतने होंगे, जो कि अवैध सामग्री अपलोड करने पर भुगतने पड़ते हैं।

एक्स एआई चैटबॉट ग्रोक पर अश्लील तस्वीरों को लेकर एक्स को वैश्विक स्तर पर तीखी आलोचना का सामना करना पड़ रहा है। यूरोप और एशिया समेत दुनिया भर की सरकारों ने ऑनलाइन सुरक्षा मानकों का पालन न करने पर कार्रवाई की चेतावनी दी है। वहीं, इस मुद्दे पर एक्स और ग्रोक दोनों के खिलाफ कार्रवाई की सार्वजनिक माँग भी लगातार तेज हो रही है। दो जनवरी को सूचना प्रौद्योगिकी मंत्रालय ने ग्रोक और इस तरह की एआई-आधारित सेवाओं के दुरुपयोग के माध्यम से उत्पन्न की जा रही अश्लील और यौन सामग्री के संबंध में एक्स को कड़ी चेतावनी जारी की थी।

यह भी पढ़ें… भारतीय IT कंपनियों का एजेंटिक AI पर भरोसा, सर्वे में खुलासा

एआई दुरुपयोग पर सरकार ने एक्स से 72 घंटे में एटीआर मांगी

इस निर्देश में मंत्रालय ने अमेरिका स्थित सोशल मीडिया कंपनी से 72 घंटे के भीतर विस्तृत कार्रवाई रिपोर्ट (एटीआर) प्रस्तुत करने को कहा। इसमें ग्रोक ऐप से जुड़े अब तक किए गए या प्रस्तावित तकनीकी और संगठनात्मक कदमों, मुख्य अनुपालन अधिकारी की भूमिका और निगरानी, आपत्तिजनक कंटेंट, उपयोक्ताओं और खातों के खिलाफ की गई कार्रवाई, साथ ही भारतीय कानूनों के तहत अनिवार्य रिपोर्टिंग नियमों का पालन सुनिश्चित करने की व्यवस्था का विवरण देने को कहा गया।

आईटी मंत्रालय के पत्र में कहा गया कि एक्स द्वारा विकसित और प्लेटफॉर्म पर एकीकृत ग्रोक एआई का कुछ उपयोगकर्ता दुरुपयोग कर रहे हैं। मंत्रालय के अनुसार, इसका इस्तेमाल फर्जी खाता बनाकर महिलाओं की आपत्तिजनक, अपमानजनक या अश्लील तस्वीरें और वीडियो बनाने, पोस्ट करने या साझा करने के लिए किया जा रहा है। सरकार ने एक्स से साफ तौर पर कहा कि आईटी अधिनियम और इससे जुड़े नियमों का पालन करना वैकल्पिक नहीं है। सरकार ने यह भी स्पष्ट किया कि आईटी अधिनियम की धारा 79 के तहत मिलने वाली वैधानिक छूट दायित्वों के सख्त पालन पर ही निर्भर करती है, जो ऑनलाइन मध्यस्थों को कानूनी जिम्मेदारी से छूट से संबंधित है।

सरकार ने एक्स को चेताया कि दायित्वों का पालन न करने पर आईटी अधिनियम की धारा 79 के तहत मिलने वाली दायित्व से संबंधित छूट समाप्त हो जाएगी। इसके साथ ही, प्लेटफॉर्म के खिलाफ आईटी अधिनियम और भारतीय न्याय संहिता समेत अन्य कानूनों के तहत भी कार्रवाई की जाएगी। (भाषा)  

अब आपके लिए डेली हिंदी मिलाप द्वारा हर दिन ताज़ा समाचार और सूचनाओं की जानकारी के लिए हमारे सोशल मीडिया हैंडल की सेवाएं प्रस्तुत हैं। हमें फॉलो करने के लिए लिए Facebook , Instagram और Twitter पर क्लिक करें।

नवीनतम अपडेट के लिए हमारे व्हाट्सएप चैनल से जुड़ने के लिए यहां क्लिक करें