Rahul RayGoogle AI Fake ID: जितनी तेजगति से Artificial intelligence विकसित हो रही है उतनी ही इसके खतरनाक खतरनाक पहलू अब खुलकर सामने आ रहे हैं। Google के नए इमेज जेनरेशन मॉडल, Google Nano Banana Pro के बारे में रिपोर्ट्स ने गंभीर सवाल खड़े कर दिए हैं। यह मॉडल इतने वास्तविक फोटो बना देता है जिससे फर्क करना मुश्किल हो जा रहा है। इसी क्षमता के बदौलत यह अब नकली आधार कार्ड और पैन कार्ड तक बनाने में सक्षम हो गया है। यह सिर्फ एक टेक्नोलॉजी चिंता नहीं है, बल्कि पहचान चोरी और फ्रॉड के लिए नया दरवाजा खोल देने वाली चेतावनी भी है।
असली जैसे फेक ID तैयार करने वाला AI मॉडल चर्चा में है, जानिए कैसे इसकी क्षमता साइबर अपराधियों के हाथ मजबूत कर सकती है।
वॉटरमार्क भी नहीं रोक पा रहा खतरा
गूगल ने अपनी इमेज पर Gemini वॉटरमार्क और SynthID जैसे इनविजिबल वॉटरमार्क लगाए हैं बावजूद लोग इसे हटाने में कामयाब हो जा रहे हैं। अगर कोई इन AI-जनरेटेड इमेज का प्रिंट निकाल ले, तो पहचान पत्र की जालसाजी का पता लगाना बेहद मुश्किल हो जाएगा। यही वजह है कि साइबर सुरक्षा विशेषज्ञ इसे आने वाले समय का सबसे बड़ा खतरा मान रहे हैं। हलांकि कई जगह संवेदनशील कंटेंट को जेमिनी नैनो बनाना ने मना भी किया है।
READ MORE- अब कॉल बिना Truecaller के दिखेगा स्क्रीन पर असली नाम..जानें कैसे?
AI मॉडरेशन की विफलता तो नहीं
हैरान करनेवाली बात यह है कि नैनो बनाना प्रो कई बार संवेदनशील कंटेंट जैसे हिंसा या यौन थीम पर आधारित इमेज बनाने से इनकार कर देता है। यह बताता है कि कंटेंट मॉडरेशन मौजूद है। फिर भी वही टूल बिना किसी रोक-टोक के पहचान पत्र जैसी संवेदनशील चीजें बना दे रहा है। जोकि खतरनाक चूक है। ऐसी चूक को विशेषज्ञ AI का ब्लाइंड स्पॉट कह रहे हैं।
READ MORE- अब स्मार्टफोन के दाम में मिलेंगे रोबोट…कीमत काम जानकर रह जाएंगे दंग
पुरानी चेतावनी फिर सच, AI की गलत दिशा
यह समस्या सिर्फ गूगल तक सीमित नहीं। कुछ समय पहले OpenAI के घिबली मोमेंट के दौरान GPT-4 ने भी आधार और पैन कार्ड की इमेज बना दी थीं। अंतर बस इतना है कि जेमिनी नैनो बनाना प्रो उससे कहीं ज्यादा उन्नत है और इससे बनाई गई इमेज असली और नकली के बीच का अंतर को लगभग खत्म कर देती हैं। यह नई तकनीक AI दुरुपयोग की संभावनाओं को कई गुना बढ़ा रही है।
AI की इस नई चुनौती से कैसे निपटेगा सिस्टम
यह पूरी घटना बताती है कि AI मॉडल्स की क्षमताओं पर सिर्फ भरोसा करना पर्याप्त नहीं। अब जरूरत इसपर कड़े रेगुलेशन बनाने की, AI इमेज डिटेक्शन सिस्टम के सुधार करने की और डिजिटल पहचान की सुरक्षा के लिए नए मानकों को तय करने की। अगर सरकार और टेक कंपनियां जल्द कोई ठोस कदम नहीं उठाती है तो यह भविष्य के लिए बहुत बड़ा खतरा साबित हो सकता है।
