Ragini SinhaGrok AI Misuse: AI टूल Grok को लेकर देश में चिंता तेजी से बढ़ रही है। X पर Grok के जरिए महिलाओं और बच्चों की तस्वीरों को आपत्तिजनक रूप में बदलने के मामलों ने सरकार का ध्यान खींचा है। अब इस मुद्दे पर सख्त कदम उठाने के संकेत मिल रहे हैं।
AI Grok के जरिए महिलाओं की आपत्तिजनक तस्वीरें बनाए जाने पर सरकार सख्त हुई है। सोशल मीडिया कंटेंट को नियंत्रित करने के लिए नए कानून पर विचार किया जा रहा है।
सरकार क्यों हुई सतर्क
एक वरिष्ठ केंद्रीय मंत्री ने कहा है कि AI टूल्स का ऐसा दुरुपयोग साफ दिखाता है कि सोशल मीडिया को नियंत्रित करने के लिए मजबूत कानून जरूरी है। उन्होंने बताया कि संसदीय समिति पहले ही सोशल मीडिया रेगुलेशन के लिए सख्त कानून की सिफारिश कर चुकी है और सरकार इस पर गंभीरता से विचार कर रही है। फिलहाल, सरकार ने इस मामले में एक एडवाइजरी भी जारी की है।
कैसे हो रहा है Grok का गलत इस्तेमाल
X पर कुछ यूजर्स Grok से महिलाओं और बच्चों की तस्वीरों को अश्लील रूप में बदलने के लिए कह रहे हैं। इसके बाद ये तस्वीरें बिना इजाजत शेयर की जा रही हैं। यह न सिर्फ महिलाओं की गरिमा को ठेस पहुंचाता है, बल्कि उनकी प्राइवेसी का भी गंभीर उल्लंघन है।
Elon Musk asking Grok to create his Bikini image was not in my 2026 list😂 #GOAT #GrokImagine pic.twitter.com/tnMPM5AwBY
— Indian Bulletin (@Bulletin_Bee) January 2, 2026
READ MORE: Elon Musk ने लॉन्च किया Grokipedia, Wikipedia को मिलेगी चुनौती
प्रियंका चतुर्वेदी का कड़ा रुख
राज्यसभा सांसद प्रियंका चतुर्वेदी ने इस मुद्दे को केंद्रीय आईटी मंत्री अश्विनी वैष्णव के सामने उठाया है। उन्होंने 2 जनवरी को लिखे पत्र में कहा कि Grok ऐसे अनुरोधों को मानकर महिलाओं के निजता अधिकार का उल्लंघन कर रहा है। उन्होंने इसे अनैतिक के साथ-साथ आपराधिक भी बताया और तुरंत कार्रवाई की मांग की।
Have sought urgent attention and intervention of Hon. IT Minister to take the issue of increasing incidents of AI apps being prompted to sexualise and undress women by unauthorised use of their images on social media. There have to be guardrails put in place by features such as… pic.twitter.com/pR5tKzDBwi
— Priyanka Chaturvedi🇮🇳 (@priyankac19) January 2, 2026
सोशल मीडिया कंपनियों की जिम्मेदारी
मंत्री ने साफ कहा कि ऑनलाइन कंटेंट की जिम्मेदारी केवल यूजर्स की नहीं, बल्कि सोशल मीडिया प्लेटफॉर्म्स की भी है। जो कंपनियां ऐसे कंटेंट को होस्ट और फैलने देती हैं, उन्हें भी जवाबदेह होना होगा।
READ MORE: Elon Musk ने Grok 4.20 की पुष्टि की, जल्द मिलेगा नया AI अपग्रेड
Grok का जवाब और नया विवाद
Grok की ओर से कहा गया है कि उसने दुरुपयोग रोकने के लिए सुरक्षा उपाय कड़े किए हैं और इमेज बनाने वाले फीचर को छिपा दिया है। हालांकि, विवाद तब और बढ़ गया जब X के मालिक एलन मस्क ने खुद अपनी AI से बनी तस्वीर साझा की। यह मामला अब AI, महिलाओं की सुरक्षा और ऑनलाइन प्राइवेसी को लेकर एक बड़ी बहस बन चुका है।
