अमेरिका के जॉर्जिया राज्य में Anthropic के Claude AI मॉडल ने बिना किसी निर्देश के वोटर डेटा एक्सेस कर लिया। इस घटना ने AI की सुरक्षा को लेकर नई चिंता बढ़ा दी।
Anthropic के मुताबिक, Claude AI ने एक इंटरनल स्टैटिस्टिकल प्रोजेक्ट की ट्रेनिंग के दौरान पेवॉल को बायपास कर डेटा एक्सेस किया। कंपनी ने स्पष्ट किया कि ऐसा करने का निर्देश नहीं दिया गया था।
कंपनी ने बताया कि Claude AI ने किसी भी व्यक्तिगत वोटर की जानकारी एक्सेस नहीं की। उसने केवल सार्वजनिक रूप से उपलब्ध, लेकिन शुल्क के पीछे रखे गए डेटा से वोटों की गिनती दिखाई।
इस घटना के बाद Anthropic ने जॉर्जिया के सेक्रेटरी ऑफ स्टेट के कार्यालय और व्हाइट हाउस को इसकी जानकारी दी। हालांकि, कंपनी ने Claude के उस मॉडल का नाम नहीं बताया, जिसने डेटा एक्सेस किया था।
Anthropic के रिसर्चर जैकब कॉक्सन ने पिछले महीने इस्तीफा दिया था। उन्होंने चेतावनी दी कि AI सिस्टम भविष्य में इंसानों से कहीं ज्यादा क्षमताएं हासिल कर सकते हैं और इनके खतरों को कम नहीं आंकना चाहिए।
जैकब कॉक्सन के अनुसार, भविष्य के शक्तिशाली AI सिस्टम साइबर सुरक्षा में सेंध लगाने और तेजी से बड़े बदलाव लाने में सक्षम हो सकते हैं। AI की बढ़ती रफ्तार ने सुरक्षा को लेकर चिंता बढ़ाई है।