Ragini Sinhaएजेंट के रूप में कार्य करने के लिए डिजाइन किए गए AI उपकरण मनुष्यों से अधिक स्मार्ट होते जा रहे हैं
Aartificial intelligence: आर्टिफिशियल इंटेलिजेंस पिछले कुछ समय से अपने कारनामों को लेकर चर्चा में बना हुआ है। इंसानों की जगह लेना इन कारनामों में से सबसे ज्यादा खतरा माना जा रहा है। दुनिया के AI वैज्ञानिकों ने बताया कि ‘एजेंट’ के रूप में काम करने के लिए आर्टिफिशियल इंटेलिजेंस टूल खतरनाक हो सकते हैं, क्योंकि उनके मैन्युफैक्चरर सिस्टम पर अपना नियंत्रण खो सकते हैं।
क्या हो सकता है
मैसाचुसेट्स इंस्टीट्यूट ऑफ टेक्नोलॉजी के प्रोफेसर और फ्यूचर ऑफ लाइफ इंस्टीट्यूट के अध्यक्ष मैक्स टेगमार्क और यूनिवर्सिटी डी मॉन्ट्रियल के प्रोफेसर और योशुआ बेंगियो ने आर्टिफिशियल जनरल इंटेलिजेंस या AGI के बारे में चिंता जताई है। उनकी चिंता AI सिस्टम के बारे में है, जो इंसानों से ज्यादा स्मार्ट हैं।
उनकी आशंका दुनिया की सबसे बड़ी फर्मों द्वारा अब AI agents या agentic AI के बारे में बात करने से उपजी है। कंपनियों का दावा है कि यह AI चैटबॉट को सहायक या एजेंट के रूप में कार्य करने और रोजमर्रा के कार्यों में मदद करने की अनुमति देगा। AGI कब अस्तित्व में आएगा। इस अवधारणा का यह भी अर्थ है कि AI सिस्टम में कुछ ‘एजेंसी’ और अपने स्वयं के विचार हो सकते हैं।
‘मानव दिमाग से प्रेरणा मिली है’
कार्यक्रम में बताया गया है कि AI रिसर्चर को मशीन इंटेलिजेंस बनाने के लिए मानव दिमाग से प्रेरणा मिली है। यह मनुष्यों की चीजों को तर्कसंगत रूप से समझने की क्षमता को एजेंटिक रूप से व्यवहार करने की क्षमता के साथ जोड़ती है, यानी कि अपने ज्ञान का इस्तेमाल लक्ष्यों को प्राप्त करने के लिए करना है। अभी, हम ऐसे एजेंट बनाने की कोशिश कर रहे हैं, जो दुनिया को समझें और फिर उस समझ के अनुसार कार्य करें। यह अपने आप में एक बहुत ही खतरनाक विचार है।
AI के अपने लक्ष्य हैं
इस दृष्टिकोण को AI पर लागू करना ‘ग्रह पर एक नई प्रजाति या एक नई बुद्धिमान इकाई बनाने’ जैसा होगा, क्योंकि हम नहीं जानते कि वह हमारी जरूरतों के अनुसार काम करेंगे या नहीं। इसलिए हमें यह समझना होगा कि किन परिस्थितियों में वह हमारे नियंत्रण से बाहर हो सकते हैं। हमारे लिए यह समझना महत्वपूर्ण है क्योंकि AI के अपने लक्ष्य हैं, जो हमें परेशानी में डाल सकते हैं।
