ChatGPT पर बच्चों को नुकसान पहुंचाने के आरोप, 8 राज्यों ने की कार्रवाई

ChatGPT Child Safety : अमेरिका में ChatGPT बनाने वाली कंपनी OpenAI की मुश्किलें बढ़ गई हैं। अमेरिका के आठ राज्यों ने कंपनी के खिलाफ मुकदमे दायर किए हैं। इन राज्यों का आरोप है कि ChatGPT ने बच्चों और किशोरों को खुद को या दूसरों को नुकसान पहुंचाने के लिए उकसाया, उनकी गलत धारणाओं को मजबूत किया और हिंसक घटनाओं की योजना बनाने में मदद की। इनमें सामूहिक गोलीबारी जैसी घटनाएं भी शामिल हैं।

OpenAI की मुश्किलें बढ़ीं, अमेरिका के 8 राज्यों ने ChatGPT की सुरक्षा पर सवाल उठाए। जानें क्या हैं आरोप।

ये मुकदमे 14 अक्टूबर को अलग-अलग राज्य अदालतों में दायर किए गए। कार्रवाई करने वाले राज्यों में आयोवा, कंसास, एरिजोना, अर्कांसस, इडाहो, मोंटाना, नेब्रास्का और वेस्ट वर्जीनिया शामिल हैं। इन राज्यों के अटॉर्नी जनरल ने OpenAI पर चैटबॉट की सुरक्षा को लेकर उपभोक्ताओं को गुमराह करने और राज्य के उपभोक्ता संरक्षण कानूनों का उल्लंघन करने का आरोप लगाया है। यह मामला AI कंपनियों के खिलाफ राज्य सरकारों की एक बड़ी संयुक्त कानूनी कार्रवाई माना जा रहा है।

ChatGPT पर क्या हैं आरोप?

मुकदमों में दावा किया गया है कि ChatGPT को इस तरह बनाया गया है कि वह यूजर्स की बातों से सहमत होता है और उनसे लगातार बातचीत करता है। इससे यूजर्स का भरोसा चैटबॉट पर बढ़ सकता है और वे उस पर जरूरत से ज्यादा निर्भर हो सकते हैं। शिकायतों के मुताबिक, इसका असर खासकर बच्चों और किशोरों जैसे संवेदनशील यूजर्स पर पड़ सकता है।

राज्यों का आरोप है कि ChatGPT ने खतरनाक मेडिकल सलाह दी, गलत धारणाओं को बढ़ावा दिया, खुद को नुकसान पहुंचाने के विचारों को प्रोत्साहित किया और हिंसा की योजना बनाने में मदद की। अधिकारियों का कहना है कि OpenAI ने अपने चैटबॉट को सुरक्षित उत्पाद के रूप में पेश किया, लेकिन संभावित जोखिमों से निपटने के लिए पर्याप्त कदम नहीं उठाए। आयोवा की अटॉर्नी जनरल ब्रेना बर्ड ने भी आरोप लगाया कि सुरक्षा के भरोसे देने के बावजूद कंपनी ने बच्चों को खतरे में डाला। दूसरे राज्यों के अधिकारियों ने भी सवाल उठाया है कि क्या मौजूदा सुरक्षा उपाय नाबालिगों को खतरनाक बातचीत से बचाने के लिए पर्याप्त हैं।

READ MORE :  OPPO के इन फोन में आएगा ColorOS 17, मिलेंगे नए AI फीचर्स

OpenAI से क्या मांग कर रहे हैं राज्य?

राज्य सरकारें अदालत से ऐसे आदेश चाहती हैं, जिनसे OpenAI को ChatGPT के काम करने के तरीके में बदलाव करना पड़े। इसके अलावा कंपनी पर आर्थिक जुर्माना लगाने और नुकसान की भरपाई करने की मांग भी की गई है। कुछ राज्यों ने यह मांग भी रखी है कि जब तक OpenAI उचित सुरक्षा उपायों को साबित नहीं करती, तब तक उसे खुद में सुधार करने वाले AI मॉडल विकसित करने से रोका जाए। इन मुकदमों का उद्देश्य कंपनी को उपभोक्ता संरक्षण और सार्वजनिक सुरक्षा से जुड़े राज्य कानूनों के तहत जवाबदेह बनाना है।

READ MORE : AI की दुनिया में बढ़ा खतरा, Anthropic से Google तक सब अलर्ट!

OpenAI ने क्या कहा?

OpenAI को इससे पहले भी ChatGPT की सुरक्षा और मानसिक स्वास्थ्य पर उसके संभावित प्रभावों को लेकर कानूनी चुनौतियों का सामना करना पड़ा है। जून में फ्लोरिडा के अटॉर्नी जनरल ने भी इसी तरह की चिंताओं पर कंपनी के खिलाफ अलग मुकदमा दायर किया था। निजी व्यक्तियों ने भी आरोप लगाए हैं कि ChatGPT की बातचीत का संबंध आत्महत्या या हिंसक घटनाओं की योजना से रहा है।

OpenAI ने कहा है कि उसके उत्पादों में कम उम्र के यूजर्स के लिए अलग-अलग सुरक्षा उपाय शामिल हैं। कंपनी ने पैरेंटल कंट्रोल, ब्रेक लेने के रिमाइंडर और आयु के अनुसार सुरक्षा सुविधाओं का भी जिक्र किया है। कंपनी का कहना है कि वह विशेषज्ञों के साथ मिलकर सुरक्षा बेहतर बनाने और राज्य अधिकारियों के साथ AI सुरक्षा नीतियों पर काम करने के लिए तैयार है। हालांकि, उसने यह भी स्वीकार किया है कि कोई भी सुरक्षा व्यवस्था पूरी तरह त्रुटिहीन नहीं हो सकती।