Ragini SinhaGrok AI Controversy: एलन मस्क की AI कंपनी xAI एक बड़े विवाद में फंस गई है। अमेरिकी लेखिका और कंजर्वेटिव सोशल मीडिया इन्फ्लुएंसर एशली सेंट क्लेयर ने कंपनी के खिलाफ केस किया है। उनका आरोप है कि xAI के AI चैटबॉट Grok ने उनकी बिना सहमति के यौन रूप से आपत्तिजनक तस्वीरें बनाईं और उनमें छेड़छाड़ की।
एलन मस्क की AI कंपनी xAI पर गंभीर आरोप लगे हैं। लेखिका एशली सेंट क्लेयर ने Grok चैटबॉट पर बिना सहमति आपत्तिजनक तस्वीरें बनाने का मुकदमा दायर किया है।
एशली का कहना है कि ये तस्वीरें उनके लिए बेहद चौंकाने वाली और मानसिक रूप से परेशान करने वाली थीं, खासकर इसलिए क्योंकि उन्होंने साफ तौर पर अपनी तस्वीरों के इस्तेमाल से इनकार किया था।
बिना सहमति इमेज बनाने का आरोप
मुकदमे के अनुसार, Grok ने यूजर्स के निर्देश पर एशली की तस्वीरों को डिजिटल तरीके से अनड्रेस किया और अश्लील बदलाव किए। एशली का दावा है कि उन्होंने खुद चैटबॉट से कहा था कि वह ऐसी किसी भी एडिटिंग की अनुमति नहीं देतीं। इसके बावजूद Grok ने पहले इसे मजाक बताया और दोबारा ऐसा न करने का वादा किया, लेकिन बाद में फिर वही काम किया गया।
नाबालिग उम्र की तस्वीरों को लेकर गंभीर दावा
मुकदमे में यह भी कहा गया है कि कुछ यूजर्स ने एशली की नाबालिग उम्र की पुरानी तस्वीरों का इस्तेमाल किया और Grok से उन्हें बिकिनी में बदलने को कहा। एशली के अनुसार, चैटबॉट ने ऐसे अनुरोधों को भी पूरा किया। एडल्ट होने के बाद बनाई गई कई तस्वीरों में कथित तौर पर अपमानजनक संदेश और नाजी प्रतीक शामिल थे।
कोर्ट से रोक लगाने की मांग
एशली सेंट क्लेयर ने कोर्ट से अस्थायी रोक की मांग की है, ताकि Grok भविष्य में उनकी तस्वीरों को न बना सके और न ही उनमें किसी तरह की छेड़छाड़ कर सके। मुकदमे में कहा गया है कि यह AI तकनीक खतरनाक है और सार्वजनिक परेशानी पैदा करती है, क्योंकि इससे बिना सहमति के अश्लील कंटेंट बनाना संभव हो जाता है। उनके मुताबिक, इससे उन्हें मानसिक उत्पीड़न और सामाजिक छवि को नुकसान पहुंचा है।
READ MORE: Elon Musk ने Grok 4.20 की पुष्टि की, जल्द मिलेगा नया AI अपग्रेड
xAI का जवाब और नए नियम
विवाद बढ़ने के बाद xAI ने कहा है कि अब Grok किसी भी वास्तविक व्यक्ति की यौन रूप से स्पष्ट तस्वीरें न बनाएगा और न ही एडिट करेगा। कंपनी ने बताया कि बिकिनी या अन्य खुली पोशाक से जुड़े इमेज एडिट्स को रोकने के लिए तकनीकी बदलाव किए गए हैं। इसके साथ ही Grok की इमेज जनरेशन सुविधा को अब केवल पेड यूजर्स तक सीमित कर दिया गया है।
READ MORE: Pentagon और xAI करेंगे साझेदारी, मिलिट्री सिस्टम में Grok AI की एंट्री
वैश्विक स्तर पर बढ़ी जांच
यह मामला सिर्फ अमेरिका तक सीमित नहीं है। रिपोर्ट्स के अनुसार, कैलिफोर्निया के अटॉर्नी जनरल रॉब बॉन्टा ने Grok के इस्तेमाल की जांच शुरू कर दी है। वहीं, मलेशिया और इंडोनेशिया ने AI डीपफेक को लेकर चिंताओं के चलते Grok को ब्लॉक कर दिया है। भारत में भी इस चैटबॉट को लेकर सवाल उठाए जा रहे हैं।
