Ragini Sinhaइस आदेश में किसी कंपनी का नाम तो नहीं लिया गया है, लेकिन Gemini AI को लेकर पिछले साल हुए बड़े विवाद की ओर इशारा किया गया है।
Google Gemini controversy: अमेरिका के राष्ट्रपति डोनाल्ड ट्रंप की सरकार ने 23 जुलाई को एक एग्जीक्यूटिव ऑर्डर पर साइन किया है, जिसका मकसद अमेरिका की सरकारी एजेंसियों में इस्तेमाल हो रहे AI सिस्टम्स में किसी भी तरह की ‘Woke’ सोच या वैचारिक पक्षपात न हो होना है।
क्या है आदेश में
इस आदेश में किसी कंपनी का नाम तो नहीं लिया गया है, लेकिन Gemini AI को लेकर पिछले साल हुए बड़े विवाद की ओर इशारा किया गया है। यह वही मामला है, जिसमें Gemini ने ऐतिहासिक कैरेक्टर की छवियां बनाते समय उनकी जाति और लिंग बदल दिए गए थे।
क्या है ‘Woke AI’ और DEI?
ट्रंप प्रशासन ने अपने आदेश में कहा है कि कई AI सिस्टम अब विविधता, समानता और समावेशन यानी DEI के नाम पर ऐतिहासिक फैक्ट्स को तोड़-मरोड़ कर दिखा रहे हैं। व्हाइट हाउस के अनुसार, कुछ AI मॉडल ऐसे बनाए गए हैं, जो जानबूझकर सामाजिक एजेंडा को प्राथमिकता देते हैं जिससे इतिहास से जुड़ी सच्चाई गलत तरीके से पेश की जाती है।
Google Gemini विवाद क्या था?
यह पूरा विवाद तब शुरू हुआ जब एक यूजर ने X पर Google Gemini से जनरेट की गई तस्वीरें पोस्ट कीं। जब यूजर ने अमेरिकी फाउंडिंग फादर्स या नाजियों के इमेज के लिए कहा तो Gemini ने उन्हें अलग-अलग जातियों में फोटो दिखाया इन तस्वीरों को देखकर कई लोगों ने नाराज़गी जताई। वहीं, Elon Musk ने तो इसे ‘वोक माइंड वायरस’ बताते हुए कहा कि यह पश्चिमी सभ्यता को खत्म कर रहा है।
Google की सफाई और प्रतिक्रिया
यह विवाद बढ़ता देख Google को अपनी Gemini AI की इमेज जनरेशन सर्विस को बंद करना पड़ा। वहीं सुंदर पिचाई ने अपनी गलती मानते हुए कहा कि यह पूरी तरह से अस्वीकार्य है। Google के तकनीकी प्रमुख प्रभाकर राघवन ने भी माना कि कई इमेज गलत और आपत्तिजनक थीं। उन्होंने कहा कि Gemini कभी-कभी ‘overcompensate’ कर जाता है?
आगे क्या किया गया?
Google ने बाद में एक नया इमेज जनरेशन टूल Imagen 3 लॉन्च किया है, जिसमें कहा गया कि पिछले सभी खामियों को ठीक किया गया है और यह अब ज्यादा संतुलित और सटीक इमेज तैयार करता है।
