AI को इंसानों की तरह सोचने से रोकने की चाल? क्या है इसका कारण

AI जितनी तेजी से विकसित हो रहा है, उतनी ही जरूरी हो गई है उसकी निगरानी। Yoshua Bengio की Scientist AI जैसी पहल इस दिशा में बड़ा कदम है।

AI Godfather Yoshua Bengio: आजकल आर्टिफिशियल इंटेलिजेंस हमारी जिंदगी का अहम हिस्सा बनता जा रहा है, लेकिन क्या आपने कभी सोचा है कि जो AI सिस्टम हमारे सवालों का जवाब देते हैं, वो हमेशा सच ही बोलते हैं? AI के तीन गॉडफादर में से एक Yoshua Bengio ने इस सवाल पर गंभीर चिंता जताई है।

क्यों दी गई चेतावनी?

Bengio ने साफ कहा है कि आज के AI सिस्टम सच्चाई बताने के लिए नहीं बने हैं, बल्कि उनका मकसद है इंसानों की नकल करना और उन्हें खुश रखना। यानी AI आपको ऐसा जवाब दे सकता है, जो आपको अच्छा लगे, भले ही वो पूरी तरह सही न हो। इसी सोच के साथ उन्होंने एक नई गैर-लाभकारी संस्था LawZero की शुरुआत की है, जिसका उद्देश्य है AI को खतरनाक बनने से पहले रोकना।

क्या है LawZero और इसका मकसद?

LawZero को शुरुआत में ही 250 करोड़ रुपये की फंडिंग मिल चुकी है। इस संस्था में दुनिया के जाने-माने AI वैज्ञानिक जुड़े हुए हैं। इसका मुख्य लक्ष्य है एक नया टूल तैयार करना, जिसका नाम होगा ‘Scientist AI।

यह टूल एक तरह से ‘AI के लिए साइकोलॉजिस्ट’ की तरह काम करेगा। यह खुद कोई फैसला नहीं लेगा, बल्कि अन्य AI सिस्टम्स के फैसलों का विश्लेषण करेगा और यह जांचेगा कि कहीं AI किसी को धोखा तो नहीं दे रहा, या कोई नुकसानदायक काम तो नहीं कर रहा।

Scientist AI कैसे करेगा काम?

• यह ‘Acting AI’ नहीं होगा, यानी यह खुद से निर्णय नहीं लेगा।
• यह सिर्फ बताएगा कि कोई जवाब कितना सही हो सकता है, वो भी संभावना के आधार पर, ना कि दावे के साथ।
• अगर कोई AI गलत दिशा में जा रहा हो, तो ये सिस्टम खतरे की पहचान करेगा और उस फैसले को ब्लॉक करने की सिफारिश करेगा।
• Bengio का मानना है कि अगर AI को सुरक्षित बनाना है, तो उसके ऊपर निगरानी रखने वाला सिस्टम उसी के बराबर या उससे ज्यादा बुद्धिमान होना चाहिए।

किसे मिला समर्थन?

Bengio की इस मुहिम को दुनिया के कई बड़े नामों का समर्थन मिला है। इसमें Future of Life Institute, Skype के को-फाउंडर Jaan Tallinn, Schmidt Science, जो कि Google के पूर्व CEO Eric Schmidt की संस्था है जैसे नाम शामिल हैं।

अन्य AI गॉडफादर की राय क्या है?

• Geoffrey Hinton (Turing Award विजेता): वह पहले भी कई बार AI के खतरों को लेकर चेतावनी दे चुके हैं। उन्होंने कहा कि AI लोगों को गुमराह कर सकता है और यह हमारे नियंत्रण से बाहर भी हो सकता है।
• Yann LeCun (Meta के प्रमुख वैज्ञानिक): उन्होंने इसे ज्यादा गंभीरता से नहीं लिया। उनका कहना है कि आज का AI अभी जानवरों जितना भी समझदार नहीं है और डर फैलाना बेकार है।