CERT-In की चेतावनी, AI ऐप पर ज्यादा भरोसा आपको कर देगा बर्बाद

CERT-In ने चेतावनी दी है कि AI ऐप्स का उपयोग अत्यंत खतरनाक उद्देश्यों के लिए किया जा सकता है, खासकर जब उन्हें वैध या मेडिकल स्टॉक के रूप में बेचा जाता है।

CERT-In Warning: AI एप्स का इस्तेमाल तेजी से बढ़ रहा है, लेकिन सभी AI एप्स सुरक्षित नहीं होते। CERT-In ने लोगों को अलर्ट किया है कि AI एप्स में कई तकनीकी खामियां हो सकती हैं, जिनका फायदा साइबर अपराधी उठा सकते हैं। CERT-In के अनुसार, साइबर अपराधी AI एप्स की लोकप्रियता का फायदा उठाकर फर्जी एप्स बना सकते हैं। अगर कोई यूजर इन फर्जी एप्स को डाउनलोड करता है, तो उनके फोन में मालवेयर इंस्टॉल हो सकता है। इससे निजी डेटा चोरी होने का खतरा बढ़ जाता है।

क्या करें सुरक्षित रहने के लिए?

सकेंडरी अकाउंट का इस्तेमाल करें: AI एप्स में लॉगिन करते समय असली पहचान की जगह एक गुमनाम या सेकेंडरी अकाउंट का उपयोग करें।
भरोसेमंद सोर्स से ही डाउनलोड करें: एप्स को सिर्फ Google Play Store या Apple App Store जैसे ऑफिशियल प्लेटफॉर्म से ही डाउनलोड करें।
सावधान रहें: किसी भी संदिग्ध लिंक पर क्लिक न करें और अनजान एप्स को इंस्टॉल करने से बचें।
नियमित अपडेट करें: एप्स को समय-समय पर अपडेट करते रहें, ताकि सुरक्षा फीचर्स एक्टिव रहें।

AI में डेटा पॉइजनिंग का खतरा

AI मॉडल्स कई तरह के साइबर हमलों के प्रति संवेदनशील होते हैं। इनमें सबसे बड़ा खतरा डेटा पॉइजनिंग का होता है। इसमें हैकर्स जानबूझकर AI को गलत या भ्रामक डेटा फीड कर देते हैं, जिससे AI गलत या पक्षपाती परिणाम देने लगता है। एडवर्सेरियल अटैक में साइबर अपराधी AI मॉडल को इस तरह से प्रभावित करते हैं कि वह सही निर्णय नहीं ले पाता। यह खासतौर पर तब खतरनाक हो सकता है जब AI का इस्तेमाल मेडिकल, फाइनेंस या सिक्योरिटी जैसे क्षेत्रों में किया जा रहा हो। इसमें

मॉडल इनवर्जन हमले, प्रॉम्प्ट इंजेक्शन शामिल है।

CERT-In की सलाह

भारत की साइबर सुरक्षा एजेंसी CERT-In ने AI यूजर्स को सतर्क रहने की सलाह दी है।
AI पर आंख मूंदकर भरोसा न करें। खासकर जब बात कानूनी, मेडिकल या फाइनेंशियल मामलों की हो।
हेलुसिनेशन की समस्या से बचें। AI कभी-कभी गलत या मनगढ़ंत जानकारी दे सकता है।
डेटा की विश्वसनीयता जांचें। अगर AI किसी महत्वपूर्ण निर्णय के लिए डेटा दे रहा है, तो उसे अन्य स्रोतों से वेरिफाई करें।