OpenAI का नया दांव, ChatGPT और Codex टेक्स्ट होगा ट्रेस

OpenAI watermark EU : OpenAI आने वाले हफ्तों में यूरोपीय संघ (EU) में ChatGPT और Codex से तैयार कुछ टेक्स्ट में अदृश्य वॉटरमार्क जोड़ने जा रहा है। यह कदम EU AI Act के पारदर्शिता नियमों को पूरा करने के लिए उठाया जा रहा है।

OpenAI AI टेक्सट वॉटरमार्क से ChatGPT और Codex के टेक्स्ट को पहचानने में मदद मिलेगी, जानें EU में यह बदलाव क्यों किया जा रहा है।

ChatGPT के टेक्स्ट में क्या बदलेगा?

OpenAI का सिस्टम textGrain टेक्स्ट में कोई दिखाई देने वाला लेबल या छिपा हुआ स्ट्रिंग नहीं डालेगा। इसके बजाय सिस्टम कुछ शब्दों के चुनाव में नियंत्रित तरीके से बदलाव करेगा। इसके बाद एक अलग डिटेक्टर इस खास सांख्यिकीय पैटर्न को खोजेगा। कंपनी का कहना है कि यह तरीका टेक्स्ट में सीधे कोई निशान जोड़ने के बजाय शब्दों के इस्तेमाल के पैटर्न पर काम करता है। OpenAI ने यह योजना 5 अक्टूबर को घोषित की है। Anthropic ने भी अगस्त में Claude के लिए इसी तरह की तकनीक की घोषणा की थी।

EU में किन यूजर्स को मिलेगा वॉटरमार्क?

OpenAI के मुताबिक, EU में सभी प्लान पर मौजूद योग्य ChatGPT और Codex यूजर्स को इस बदलाव में शामिल किया जाएगा। शुरुआत में यह व्यवस्था पूरी दुनिया में लागू नहीं होगी। API ग्राहकों के लिए यह सुविधा दुनिया भर में चुनिंदा मॉडल पर ऑप्ट-इन के तौर पर उपलब्ध होगी। यह डिफॉल्ट रूप से बंद रहेगी। अभी वॉटरमार्क डिटेक्टर आम लोगों के लिए उपलब्ध नहीं होगा। OpenAI चुनिंदा शोधकर्ताओं और विशेषज्ञ संस्थाओं से इसके लिए आवेदन ले रहा है। कंपनी के अनुसार, डिटेक्टर सिर्फ यह बताएगा कि OpenAI का वॉटरमार्क मिला या नहीं। इससे यूजर, अकाउंट, प्रॉम्प्ट या बातचीत की पहचान नहीं होगी।

READ MORE : FBI एजेंट पर क्रिप्टो चोरी का आरोप, ChatGPT से बनाई योजना

EU AI Act क्यों जरूरी है?

EU AI Act के Article 50 के तहत AI से तैयार टेक्स्ट, फोटो, ऑडियो और वीडियो को मशीन से पढ़े जा सकने वाले तरीके से चिह्नित करना जरूरी है, जहां तकनीकी रूप से यह संभव हो। हालांकि, नियम तकनीक की सीमाओं, लागत और उपलब्ध तकनीक को भी ध्यान में रखते हैं। Anthropic का तरीका भी शब्दों के चुनाव में छोटे बदलाव करता है। कंपनी ने इसे दुनिया भर में लागू किया है, क्योंकि उसके मुताबिक अलग-अलग क्षेत्रों के लिए अलग सिस्टम उस समय तैयार नहीं था।

READ MORE : Microsoft Word में आया ChatGPT, जानें इंस्टॉल करने का तरीका

AI Text Detector कितना भरोसेमंद होगा?

OpenAI के अपने परीक्षण बताते हैं कि छोटा टेक्स्ट होने या उसमें बदलाव किए जाने पर वॉटरमार्क कमजोर हो सकता है। 1% फॉल्स-पॉजिटिव रेट पर कुछ 200 टोकन टेक्स्ट में पहचान करीब 80% और 400 टोकन टेक्स्ट में करीब 95% रही, लेकिन 400 टोकन नमूने में सिर्फ 25% शब्द बदलने पर पहचान घटकर 17% रह गई, इसलिए पॉजिटिव रिजल्ट यह साबित नहीं करता कि टेक्स्ट किसने लिखा या कितना इंसानी बदलाव हुआ। वहीं, नेगेटिव रिजल्ट भी यह साबित नहीं करता कि टेक्स्ट इंसान ने ही लिखा है।