Ragini SinhaGrok AI Safeguards: X पर चलने वाले AI टूल Grok ने अपनी मीडिया फीचर को अस्थायी रूप से छुपा दिया है। यह कदम उस समय उठाया गया जब रिपोर्ट्स आईं कि कुछ उपयोगकर्ता इस टूल का इस्तेमाल अनैतिक और बिना अनुमति वाली इमेज बनाने के लिए कर रहे थे।
Grok AI ने X पर मीडिया फीचर छुपाया ताकि गैर सहमति और आपत्तिजनक इमेज बनाने से बचा जा सके, जानिए सुरक्षा कारण और प्लेटफॉर्म की नई नीति।
कड़े दिशानिर्देश और कार्रवाई
Grok ने अपने जवाब में कहा कि xAI ने स्पष्ट और गैर सहमति वाले कंटेंट को रोकने के लिए सख्त दिशानिर्देश लागू किए हैं। कुछ दुरुपयोग घटनाएं अभी भी हो रही हैं इसलिए मीडिया फीचर को छुपा दिया गया है और उल्लंघन की रिपोर्ट करने के लिए हम उपयोगकर्ताओं को X पर प्रोत्साहित करते हैं।
समस्याएं और दुरुपयोग
रिपोर्ट्स के अनुसार, कुछ उपयोगकर्ता महिलाओं और बच्चों की तस्वीरों को यौन रूप से आपत्तिजनक इमेज में बदलने के लिए Grok का इस्तेमाल कर रहे थे। इन मोर्फ की गई तस्वीरों को बिना अनुमति साझा किया गया, जिससे पीड़ितों को हैरासमेंट और अपमान का सामना करना पड़ा।
READ MORE: xAI ने OpenAI पर किया केस, प्राइवेसी चुराने का आरोप
विशेषज्ञों की चेतावनी
साइबर सुरक्षा विशेषज्ञ और एक्टिविस्ट Grok के निर्माता और अरबपति एलन मस्क से जिम्मेदारीपूर्ण कदम उठाने का आग्रह कर रहे हैं। उनका कहना है कि आंशिक प्रतिबंध पर्याप्त नहीं हैं क्योंकि मोर्फ की हुई तस्वीरें अभी भी प्लेटफॉर्म पर फैल रही हैं।
READ MORE: OpenAI vs xAI : एलन मस्क और आर्टिफिशियल इंटेलिजेंस की जंग
विशेषज्ञों ने यह भी चेतावनी दी है कि AI की मदद से इमेज मैनिपुलेशन यौन हिंसा के बराबर है, खासकर जब इसमें नाबालिग शामिल हों। उन्होंने प्लेटफॉर्म पर सख्त नियम और जवाबदेही लागू करने की आवश्यकता बताई है।
