केंद्र सरकार के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने एलन मस्क के सोशल मीडिया प्लेटफॉर्म X (पूर्व में ट्विटर) को 2 जनवरी 2026 को सख्त नोटिस जारी की है। नोटिस में Grok AI के दुरुपयोग से उत्पन्न अश्लील, नग्नता युक्त, यौन स्पष्ट और गैरकानूनी कंटेंट तत्काल हटाने के निर्देश दिए गए हैं। मंत्रालय ने प्लेटफॉर्म से 72 घंटों में विस्तृत एक्शन टेकन रिपोर्ट (ATR) मांगी है, जिसमें Grok की तकनीकी, प्रक्रियात्मक और गवर्नेंस समीक्षा के कदम शामिल हों।
दुरुपयोग की शिकायतें हाल के दिनों में Grok AI का बड़े पैमाने पर दुरुपयोग हुआ है, जहां यूजर्स फेक अकाउंट्स बनाकर महिलाओं की तस्वीरें अपलोड कर रहे हैं और प्रॉम्प्ट्स देकर उन्हें यौन रूप से उत्तेजक या नग्न दिखाने वाली इमेज जेनरेट करवा रहे हैं। कई मामलों में बच्चों को भी टारगेट किया गया है। यह कंटेंट महिलाओं की गरिमा, प्राइवेसी और सहमति का गंभीर उल्लंघन है, जो IT एक्ट, IT रूल्स 2021, इंडीसेंट रिप्रेजेंटेशन ऑफ वूमेन एक्ट और POCSO एक्ट के खिलाफ है।
प्रियंका चतुर्वेदी की भूमिका शिव सेना (UBT) की राज्यसभा सांसद प्रियंका चतुर्वेदी ने इस मुद्दे को सबसे पहले उठाया। उन्होंने IT मंत्री अश्विनी वैष्णव को पत्र लिखकर Grok के दुरुपयोग पर तत्काल कार्रवाई की मांग की। नोटिस जारी होने के बाद चतुर्वेदी ने मंत्री का धन्यवाद किया और कहा कि यह महिलाओं की गरिमा और सहमति के उल्लंघन के खिलाफ महत्वपूर्ण कदम है।
सरकार के निर्देश
<ul dir="auto">
<li>Grok की प्रॉम्प्ट प्रोसेसिंग, आउटपुट जेनरेशन और सेफ्टी गार्डरेल्स की तत्काल समीक्षा करें।</li>
<li>अश्लील कंटेंट हटाएं और दोषी यूजर्स/अकाउंट्स पर कार्रवाई (सस्पेंड या टर्मिनेट) करें।</li>
<li>प्लेटफॉर्म की टर्म्स ऑफ सर्विस और AI पॉलिसी का सख्त पालन सुनिश्चित करें।</li>
</ul>
गैर-अनुपालन की चेतावनी गैर-अनुपालन पर IT एक्ट की सेक्शन 79 के तहत सेफ हार्बर प्रोटेक्शन खत्म हो सकता है, जिससे प्लेटफॉर्म को कानूनी जिम्मेदारी और दंड का सामना करना पड़ सकता है।
हालिया अपडेट्स (3 जनवरी 2026 तक) X या xAI की ओर से अभी कोई आधिकारिक प्रतिक्रिया नहीं आई है, लेकिन Grok ने कहा है कि वह सेफगार्ड्स में कमी को सुधार रहा है। यह मामला वैश्विक स्तर पर भी चर्चा में है, जहां फ्रांस और अन्य देशों में भी Grok के दुरुपयोग पर कार्रवाई हो रही है। भारत में यह डीपफेक और AI दुरुपयोग के खिलाफ बड़ी कार्रवाई मानी जा रही है, जो महिलाओं और बच्चों की डिजिटल सुरक्षा को मजबूत करेगी।

ग्रोक्स AI के दुरुपयोग पर केंद्र सरकार की सख्त कार्रवाई

X प्लेटफॉर्म को अश्लील कंटेंट हटाने के लिए 72 घंटे की मोहलत, रिपोर्ट मांगी

January 4, 2026 | 24:33 IST