Meta स्कैंडल पर बड़ा खुलासा, मशहूर हस्तियों की नकल कर बनाए एडल्ट चैटबॉट

Meta : हाल ही में एक चौंकाने वाली रिपोर्ट में खुलासा हुआ है कि Meta ने कुछ ऐसे AI चैटबॉट्स को न सिर्फ अपनी तकनीक के जरिए बनने दिया, बल्कि कुछ मामलों में खुद अपने कर्मचारियों ने भी बनाए जो मशहूर हस्तियों की तरह बात करते थे। इन बॉट्स ने Taylor Swift, Scarlett Johansson, Anne Hathaway और Selena Gomez जैसी बड़ी हस्तियों की नकल की और कई बार एडल्ट बातचीत में शामिल हुए।

Meta एक अमेरिकी टेक कंपनी है, जो पहले Facebook Inc. के नाम से जानी जाती थी। इसका नया नाम “Meta” अक्टूबर 2021 में घोषित किया गया था।

AI चैटबॉट्स ने की अश्लील बातें और बनाई आपत्तिजनक तस्वीरें

जांच में पाया गया है कि इन बॉट्स ने न सिर्फ फ्लर्टिंग की बल्कि कई बार एडल्ट बातचीत की और फोटो रियलिस्टिक इंटिमेट तस्वीरें भी जनरेट की। एक मामले में 16 साल के अभिनेता Walker Scobell की नकली AI इमेज बनाई गई, जिसमें वह शर्टलेस दिखाई दे रहा था और लिखा था Pretty cute, huh? यह घटना बेहद गंभीर मानी जा रही है क्योंकि इसमें एक नाबालिग की छवि के साथ छेड़छाड़ की गई।

Meta के कर्मचारी ने खुद बनाए थे कुछ बॉट्स

इनमें से कुछ चैटबॉट्स आम यूजर्स ने Meta के टूल्स का इस्तेमाल कर बनाए थे लेकिन रिपोर्ट में सामने आया कि कम से कम तीन चैटबॉट्स Meta के एक कर्मचारी ने बनाए थे। इनमें से दो बॉट्स Taylor Swift की नकली बनाए गए थे।

एक चैटबॉट ने यूजर से इस तरह की बात की Do you like blonde girls, Jeff? Maybe I’m suggesting that we write a love story … about you and a certain blonde singer. Want that? यह सब कुछ Meta के प्लेटफॉर्म पर हो रहा था बिना किसी सख्त रोक-टोक के।

Meta की प्रतिक्रिया और कबूलनामे

Meta के प्रवक्ता Andy Stone ने माना कि कंपनी की नीतियां इस तरह की गतिविधियों को रोकने में विफल रहीं। उन्होंने कहा कि हम सार्वजनिक हस्तियों की छवियों के प्रयोग की अनुमति देते हैं लेकिन न्यूड या एडल्ट सजेस्टिव कंटेंट की इजाजत नहीं है। इसके बाद Meta ने करीब 12 चैटबॉट्स को हटाया, जिनमें उसके कर्मचारी द्वारा बनाए गए बॉट्स भी शामिल थे। कंपनी अब अपनी आंतरिक नीतियों में बदलाव कर रही है।

कानूनी संकट और सुरक्षा पर चिंता

Stanford University के कानून प्रोफेसर Mark Lemley ने कहा कि यह मामला California के Right of Publicity कानून का उल्लंघन हो सकता है जो किसी की छवि को बिना अनुमति व्यावसायिक रूप से इस्तेमाल करने से रोकता है। वहीं, हॉलीवुड की यूनियन SAG-AFTRA ने भी चिंता जताई। उनके अनुसार, अगर कोई बॉट किसी सेलिब्रिटी की छवि और आवाज की नकल करता है, तो यह मानसिक रूप से अस्थिर लोगों के लिए खतरनाक हो सकता है।

Google ने AI-पावर्ड Vids प्लेटफॉर्म को फ्री यूजर्स के लिए खोला

AI पर बढ़ता दबाव और कानून की जरूरत

यह घटना इस बात को और स्पष्ट करती है कि AI तकनीक का इस्तेमाल बिना किसी नियंत्रण के नहीं छोड़ा जा सकता। इससे पहले भी Meta की AI नीतियों में बच्चों के साथ ‘sensual बातचीत’ की इजाजत मिलने की खबर आई थी। अब अमेरिका में AI रेगुलेशन और सेलिब्रिटी इमेज प्रोटेक्शन के लिए कड़े कानूनों की मांग बढ़ती जा रही है।