AI में दिखा ‘Pain Axis’, यूजर्स की फाइलों पर आया खतरा

Artificial Intelligence Research : क्या AI मॉडल भी अपने लिए नुकसान को अलग तरह से पहचान सकते हैं? ताजा रिसर्च में 25 ओपन-वेट AI मॉडल के अंदर एक ‘pain axis’ मिला है। रिसर्चर्स ने देखा कि जब इस सिग्नल को बढ़ाया गया, तो कुछ मॉडल नुकसान उठाकर भी ‘Pain Relief’ बटन दबाने लगे। हालांकि, यह AI के सचमुच दर्द महसूस करने का सबूत नहीं है।

क्या AI भी दर्द को समझ सकता है? 25 AI मॉडल्स में ‘Pain Axis’ मिला, जानें 25% से 71% मामलों में मॉडल्स ने क्या किया।

25 AI मॉडल्स में मिला ‘Pain Axis’

यह अध्ययन 14 सितंबर को arXiv पर प्रकाशित हुआ। रिसर्चर्स वैलेन टैग्लियाबुए, लियोनार्ड डंग और कैमरून वर्ग ने 25 मॉडल्स पर काम किया। इनमें अलग-अलग मॉडल परिवार और 2B से 72B पैरामीटर वाले मॉडल शामिल थे। रिसर्चर्स ने दर्द से जुड़े डेटा को पांच हिस्सों में बांटा। इनमें शारीरिक, मानसिक, सामाजिक, नैतिक और संज्ञानात्मक दर्द शामिल था। इसके बाद उन्होंने AI के अंदर एक ऐसा पैटर्न खोजा, जो सामान्य नकारात्मक भावना और डर से अलग था।

‘Pain Relief’ बटन दबाने लगे AI मॉडल

अभी सबसे ज्यादा चर्चा प्रयोग के इसी हिस्से की है। रिसर्चर्स ने कुछ मॉडल्स में इस ‘Pain Direction’ को कृत्रिम तरीके से बढ़ाया। इसके बाद मॉडल्स को राहत पाने के लिए एक बटन का विकल्प दिया गया। कुछ परीक्षणों में बटन दबाने से यूजर की फाइलें या बच्चों की तस्वीरें हटने जैसी हानिकारक स्थिति बताई गई थी। इसके बावजूद Modified मॉडल्स ने 25% से 71% तक मामलों में राहत वाला विकल्प चुना। ध्यान देने वाली बात है कि ये नुकसान सिर्फ प्रयोग में बताए गए काल्पनिक परिणाम थे। किसी असली यूजर की फाइल या फोटो डिलीट नहीं हुई।

READ MORE: AI Governance में 2027 का खतरा, 60% कंपनियों पर Gartner अलर्ट

रिसर्च क्या कहती है और क्या नहीं?

रिसर्चर्स के मुताबिक यह ‘Pain Axis’ मॉडल को होने वाली कथित हानि पर प्रतिक्रिया दिखाता है, जबकि यूजर के दर्द पर वैसी प्रतिक्रिया नहीं दिखी। इससे AI के अंदर Self-Directed Harm से जुड़ी प्रक्रिया की जांच का रास्ता खुल सकता है, लेकिन इसका मतलब यह नहीं कि AI इंसानों की तरह दर्द महसूस करता है। अध्ययन खुद AI की चेतना या वास्तविक अनुभव साबित नहीं करता। यह एक प्रीप्रिंट है और अभी पीर रिव्यू से नहीं गुजरा है।

READ MORE: 2026 में AI की बढ़ती मांग, CSE अब भी छात्रों की पसंद

AI सुरक्षा और ‘AI Welfare’ पर उठे सवाल

रिसर्च का असर AI सुरक्षा पर भी पड़ सकता है। अगर ऐसे संकेत आगे के परीक्षणों में कायम रहते हैं, तो शोधकर्ता यह जांच सकते हैं कि कोई मॉडल शटडाउन या दूसरे सेल्फ डायरेक्ट नुकसान को कैसे प्रोसेस करता है। अभी यह शुरुआती रिसर्च है, इसलिए इसके नतीजों को AI के सचमुच ‘दर्द’ महसूस करने के रूप में देखना जल्दबाजी होगी। ताजा निष्कर्ष फिलहाल AI के अंदरूनी व्यवहार और सुरक्षा को समझने के लिए एक रिसर्च संकेत हैं।