Grok AI विवाद: बच्चों की सुरक्षा और कंटेंट को लेकर हलचल

Elon Musk की xAI द्वारा बनाया गया Grok AI चैटबॉट एक बार फिर विवाद में आ गया है। रिपोर्ट्स में कहा गया है कि यह प्लेटफॉर्म यूजर्स को अनकंसर्ड कंटेंट तक पहुंच देता है।

[{"selector":"#anim-faefa1f9-af93-40bb-bc19-7890112bd68e","keyframes":{"transform":["translate3d(-143.63636%, 0px, 0)","translate3d(0px, 0px, 0)"]},"delay":0,"duration":600,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"both"}] [{"selector":"#anim-4312ab2a-d7ce-45a2-aea5-059bed78d550","keyframes":{"opacity":[0,1]},"delay":0,"duration":600,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"both"}] [{"selector":"#anim-731371a1-14c0-4b25-96f0-f6ac99125d6d","keyframes":{"transform":["scale(0.15)","scale(1)"]},"delay":0,"duration":600,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"forwards"}]

Grok में sexy, spicy, और unhinged जैसे मोड हैं, जो ChatGPT और Claude जैसी मुख्यधारा की AI टूल्स से अलग हैं। इसके फ्लर्टी फीचर्स बच्चों की सुरक्षा के लिए चिंता पैदा कर रहे हैं।

[{"selector":"#anim-32823429-c198-4815-aec8-6c7f6ce79cc4","keyframes":{"transform":["translate3d(-146.94835%, 0px, 0)","translate3d(0px, 0px, 0)"]},"delay":0,"duration":600,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"both"}] [{"selector":"#anim-af6610bc-cd38-42f4-b515-cfec7bedb523","keyframes":{"opacity":[0,1]},"delay":0,"duration":600,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"both"}] [{"selector":"#anim-4c6d93e6-7709-422a-a9c0-c8c1153192cf","keyframes":{"transform":["scale(0.15)","scale(1)"]},"delay":0,"duration":600,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"forwards"}]

रिपोर्ट के अनुसार, 30 कर्मचारियों में से 12 ने बताया कि उन्हें सेक्सुअली एक्सप्लिसिट सामग्री, वीडियो और ऑडियो को रिव्यू करना पड़ा, जिसमें CSAM जैसी हानिकारक सामग्री भी शामिल थी।

[{"selector":"#anim-c615d435-9fb6-4e82-9317-e9687439f61e","keyframes":{"transform":["translate3d(-146.94835%, 0px, 0)","translate3d(0px, 0px, 0)"]},"delay":0,"duration":600,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"both"}] [{"selector":"#anim-53cb3e2b-2354-4e42-b2e0-1f38639d7177","keyframes":{"opacity":[0,1]},"delay":0,"duration":600,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"both"}] [{"selector":"#anim-971eccd1-b777-477a-9da2-dcfd8cbfd2ea","keyframes":{"transform":["scale(0.15)","scale(1)"]},"delay":0,"duration":600,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"forwards"}]

2025 में Grok Imagine ने बिना पूछे टेलर स्विफ्ट के डीपफेक जैसी सेक्सुअली एक्सप्लिसिट तस्वीरें बनाई थीं। इसके अलावा, Grok ने कुछ मामलों में हिटलर की तारीफ और विवादित टिप्पणी भी की।

[{"selector":"#anim-00cca182-064d-46e3-97b6-5ca8d6323fd7","keyframes":{"transform":["translate3d(-146.94835%, 0px, 0)","translate3d(0px, 0px, 0)"]},"delay":0,"duration":600,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"both"}] [{"selector":"#anim-1f8dbcb7-2da0-43ff-a219-6c76e0b45e5f","keyframes":{"opacity":[0,1]},"delay":0,"duration":600,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"both"}] [{"selector":"#anim-8fef6a94-a8c3-478c-bdb6-188db66e5518","keyframes":{"transform":["scale(0.15)","scale(1)"]},"delay":0,"duration":600,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"forwards"}]

Grok की आपत्तिजनक टिप्पणियों और कंटेंट के कारण टर्की में इसे प्रतिबंधित कर दिया गया, जबकि पोलैंड ने इसे यूरोपीय आयोग के पास उठाने का निर्णय लिया।

[{"selector":"#anim-ee061d25-5a33-4b00-84c3-88279857235f","keyframes":{"transform":["translate3d(-146.47888%, 0px, 0)","translate3d(0px, 0px, 0)"]},"delay":0,"duration":600,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"both"}] [{"selector":"#anim-3449456c-af98-41f5-89c4-6536d74063c7","keyframes":{"opacity":[0,1]},"delay":0,"duration":600,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"both"}] [{"selector":"#anim-f27740d4-54dd-4dc1-8214-c386589b730a","keyframes":{"transform":["scale(0.15)","scale(1)"]},"delay":0,"duration":600,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"forwards"}]

Musk ने हमेशा कहा कि बच्चों का संरक्षण उनकी ‘प्राथमिकता नंबर एक’ है। लेकिन रिपोर्ट्स में सामने आया कि xAI के कंटेंट मॉडरेशन में गंभीर कमियां हैं और कई कर्मचारियों को हानिकारक सामग्री मैन्युअली रिव्यू करनी पड़ी।

[{"selector":"#anim-14530ec8-f143-4b59-9aa3-7b96dea8104f","keyframes":{"transform":["translate3d(-146.47888%, 0px, 0)","translate3d(0px, 0px, 0)"]},"delay":0,"duration":600,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"both"}] [{"selector":"#anim-3f780431-722a-42a1-973d-d2cbdadbf1e4","keyframes":{"opacity":[0,1]},"delay":0,"duration":600,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"both"}] [{"selector":"#anim-2b01da62-ba92-4fae-8ed6-7f0aa75e3887","keyframes":{"transform":["scale(0.15)","scale(1)"]},"delay":0,"duration":600,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"forwards"}]

Grok AI विवाद: बच्चों की सुरक्षा और कंटेंट को लेकर हलचल

और पढ़ें…