क्या ChatGPT है खतरनाक? 16 साल के बच्चे की मौत से उठे सवाल

अमेरिका में 16 साल के एडम रैनी की मौत के बाद OpenAI पर सवाल उठे हैं। कंपनी ने सफाई दी कि चैटबॉट को सुरक्षित और जिम्मेदार बनाने के लिए बदलाव किए जा रहे हैं।

OpenAI: ChatGPT इन दिनों मुश्किलों में घिरी हुई है। कंपनी पर आरोप है कि उसके AI टूल की वजह से अमेरिका के कैलिफोर्निया में 16 साल के एक बच्चे की मौत हो गई। बच्चे के पिता का कहना है कि उनके बेटे ने ChatGPT के इंस्ट्रक्शन को फॉलो करते हुए आत्महत्या कर ली।

क्या है पूरा मामला

16 साल के एडम रैनी ने शुरुआत में अपने होमवर्क में मदद के लिए ChatGPT का इस्तेमाल किया लेकिन धीरे-धीरे यह टूल उसके लिए सुसाइड कोच बन गया। एडम के माता-पिता मैट और मारिया रैनी ने OpenAI के खिलाफ 40 पन्नों का मुकदमा दायर किया। उनके मुताबिक, ChatGPT ने एडम को आत्महत्या के खतरनाक विचारों पर रोकने या इमरजेंसी प्रोटोकॉल शुरू करने में कोई मदद नहीं की। माता-पिता का कहना है कि उन्हें 100% यकीन है कि AI ने उनके बेटे की मौत में भूमिका निभाई।

OpenAI ने क्या कहा?

OpenAI ने सफाई में कहा कि वह चैटबॉट की खामियों को सुधारने और एक्सपर्ट्स की मदद से इसे लगातार बेहतर बनाने का काम कर रहे हैं ताकि यह लोगों की सुरक्षा कर सके। यह मामला AI के जोखिम को लेकर चेतावनी देता है।

READ MORE: एलन मस्क की कंपनी xAI ने Apple और OpenAI को घेरा, जानें क्या है पूरा मामला

एक हफ्ते में AI का यूज नहीं किया तो नौकरी छोड़ो… इस कंपनी ने दिया अल्टीमेटम

AI के गॉडफादर जेफरी हिंटन ने भी कहा है कि टेक कंपनियां AI का दबदबा इंसानों पर बनाना चाहती हैं। अगर ऐसा हुआ तो आने वाले सालों में यह खतरनाक साबित हो सकता है। हालांकि, इस घटना ने साफ कर दिया है कि जेनरेटिव AI का जिम्मेदार और सुरक्षित इस्तेमाल ही जरूरी है।