Grok AI: इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने शुक्रवार को एलन मस्क की कंपनी एक्स कॉर्प (पूर्व में ट्विटर) को सख्त नोटिस जारी किया। नोटिस में प्लेटफॉर्म पर उपलब्ध ग्रोक एआई के दुरुपयोग से महिलाओं और बच्चों की अश्लील, नग्न और आपत्तिजनक तस्वीरें या वीडियो बनाने व सर्कुलेट करने पर गंभीर चिंता जताई गई। सरकार ने एक्स को 72 घंटे के अंदर एक्शन टेकन रिपोर्ट (ATR) सौंपने का निर्देश दिया है।
Table of Contents
Grok AI: केंद्र सरकार ने X पर कसा शिकंजा
मंत्रालय ने नोटिस में कहा कि ग्रोक एआई का दुरुपयोग कर फेक अकाउंट्स से महिलाओं की तस्वीरें अपलोड की जा रही हैं और प्रॉम्प्ट्स के जरिए उनकी पोशाक कम कर उन्हें सेक्शुअलाइज किया जा रहा है। यह न केवल महिलाओं की गरिमा और निजता का उल्लंघन है, बल्कि डिजिटल प्लेटफॉर्म पर यौन उत्पीड़न को सामान्य बनाने का खतरा भी पैदा करता है। मंत्रालय ने इसे प्लेटफॉर्म की सुरक्षा और प्रवर्तन व्यवस्था की गंभीर विफलता करार दिया।
Grok AI: प्रियंका चतुर्वेदी की शिकायत के बाद कार्रवाई
यह कार्रवाई शिवसेना (उद्धव गुट) की राज्यसभा सांसद प्रियंका चतुर्वेदी के पत्र के बाद हुई। चतुर्वेदी ने आईटी मंत्री अश्विनी वैष्णव को पत्र लिखकर ग्रोक के दुरुपयोग पर तत्काल हस्तक्षेप की मांग की थी। उन्होंने इसे महिलाओं के खिलाफ ‘डिजिटल हिंसा’ बताया। नोटिस जारी होने के बाद चतुर्वेदी ने मंत्री का धन्यवाद देते हुए कहा कि यह महिलाओं की गरिमा और सहमति का सम्मान करने की दिशा में महत्वपूर्ण कदम है।
Grok AI: सरकार के निर्देश
MeitY ने एक्स को निर्देश दिया है कि ग्रोक के तकनीकी ढांचे, प्रॉम्प्ट प्रोसेसिंग, आउटपुट जनरेशन और इमेज हैंडलिंग की व्यापक समीक्षा की जाए। सख्त यूजर पॉलिसी लागू करें, जिसमें नियम तोड़ने वालों के अकाउंट सस्पेंड या टर्मिनेट करना शामिल हो। सभी आपत्तिजनक कंटेंट तुरंत हटाया जाए, बिना सबूत से छेड़छाड़ किए। साथ ही, अवैध सामग्री के निर्माण को रोकने के लिए मजबूत गार्डरेल्स लगाए जाएं।
Grok AI: सरकार ने मांगा जवाब
नोटिस में चेताया गया है कि आईटी एक्ट 2000 और आईटी रूल्स 2021 का पालन न करने पर धारा 79 के तहत मिलने वाला ‘सेफ हार्बर’ प्रोटेक्शन खत्म हो सकता है। इसके अलावा, भारतीय न्याय संहिता (BNS), भारतीय नागरिक सुरक्षा संहिता (BNSS), महिलाओं के अशोभनीय चित्रण निषेध अधिनियम और बच्चों के यौन अपराधों से संरक्षण अधिनियम (POCSO) सहित कई कानूनों के तहत प्लेटफॉर्म, उसके अधिकारियों और उल्लंघन करने वाले यूजर्स पर सख्त दंडात्मक कार्रवाई हो सकती है।
Grok AI: बढ़ती चिंता और व्यापक प्रभाव
यह मामला केवल फर्जी अकाउंट्स तक सीमित नहीं है। महिलाएं जो खुद अपनी तस्वीरें पोस्ट करती हैं, उन्हें भी टारगेट किया जा रहा है। प्रॉम्प्ट्स और इमेज मैनिपुलेशन के जरिए सिंथेटिक कंटेंट बनाया जा रहा है। मंत्रालय ने कहा कि इससे महिलाओं और बच्चों की सुरक्षा खतरे में है और एआई तकनीक का घोर दुरुपयोग हो रहा है। नोटिस की कॉपी अन्य मंत्रालयों, आयोगों और राज्य अधिकारियों को भी भेजी गई है, जो एआई से जुड़ी अश्लीलता के खिलाफ समन्वित कार्रवाई का संकेत देता है।
AI से फैला अश्लील कंटेंट
हाल ही में MeitY ने सभी सोशल मीडिया प्लेटफॉर्म्स को अश्लील और अवैध कंटेंट पर सख्ती बरतने की एडवाइजरी जारी की थी। आईटी मंत्री वैष्णव ने कहा कि सोशल मीडिया कंपनियों को अपने कंटेंट के लिए जिम्मेदारी लेनी होगी और संसदीय समिति ने पहले ही सख्त कानून की सिफारिश की है।
यह भी पढ़ें:-
