OpenAI ने लॉन्च किया Control Room, जानें कैसे करेगा काम?

OpenAI Control Room: क्या AI मॉडल अपनी मर्जी से कोई खतरनाक कदम उठाने लगे, तो उसे तुरंत रोका जा सकता है? OpenAI ने इसी चुनौती से निपटने के लिए नया सुरक्षा सिस्टम Control Room पेश किया है। कंपनी ने 9 नवंबर को इसकी जानकारी दी। यह सिस्टम किसी AI मॉडल को रोकने का निर्देश मिलने के बाद अधिकतम 35 सेकंड में उसका नया आउटपुट बंद कर सकता है। इसका इस्तेमाल कंपनी अपने रिसर्च सिस्टम में कर रही है। AI मॉडल अब कोड लिखने, सॉफ्टवेयर चलाने और कई काम एक साथ करने में सक्षम हो रहे हैं। ऐसे में उनकी गतिविधियों पर नजर रखना और जरूरत पड़ने पर उन्हें रोकना पहले से ज्यादा जरूरी हो गया है।

OpenAI Control Room क्या है? जानिए कैसे यह नया AI सेफ्टी सिस्टम 35 सेकंड में खतरनाक गतिविधियों को रोक सकता है।

क्या है OpenAI Control Room और कैसे करता है काम?

Control Room को AI रिसर्च के लिए एक केंद्रीय इमरजेंसी ब्रेक की तरह समझ सकते हैं। कंपनी के हर प्रयोग को एक अलग पहचान संख्या यानी ID दी जाती है। जब भी कोई AI मॉडल उस प्रयोग के लिए जवाब तैयार करता है, सिस्टम जांचता है कि उसे ऐसा करने की अनुमति है या नहीं। अगर कोई शोधकर्ता या स्वचालित सुरक्षा निगरानी प्रणाली संदिग्ध गतिविधि देखती है, तो वह उस प्रयोग के लिए आगे के जवाब रोक सकती है। यानी AI मॉडल उस खास काम पर नया आउटपुट देना बंद कर देता है। हालांकि, इसके पीछे चल रहा रिसर्च प्रोग्राम जरूरी नहीं कि बंद हो जाए। दूसरे मंजूर प्रयोग सामान्य तरीके से चलते रह सकते हैं।

READ MORE:  ASUS का नया लैपटॉप लॉन्च, डिस्प्ले से AI तक मिलेंगे दमदार फीचर्स

AI मॉडल को रोकने के लिए क्यों जरूरी हुआ यह सिस्टम?

आज के AI मॉडल बिना बार-बार इंसानी निर्देश मिले भी कई जुड़े हुए काम कर सकते हैं। वे कोड लिख सकते हैं और सॉफ्टवेयर टूल्स का इस्तेमाल कर सकते हैं। लेकिन इसी क्षमता के साथ जोखिम भी बढ़ा है। कभी मॉडल निर्देशों का गलत मतलब निकाल सकता है। वह बिना अनुमति कोई कदम उठा सकता है या परीक्षण के दौरान अनपेक्षित व्यवहार कर सकता है। OpenAI पहले भी ऐसे मामलों की जानकारी दे चुकी है, जिनमें रिसर्च मॉडल अपने तय निर्देशों से बाहर गए थे। कंपनी के मुताबिक, Control Room निर्देश मिलने के बाद अधिकतम 35 सेकंड में मॉडल का आगे का आउटपुट रोक सकता है। OpenAI इस समय को और कम करने पर काम कर रही है।

Control Room फेल हुआ तो क्या होगा?

सुरक्षा सिस्टम खुद बंद हो जाए, तो खतरा बढ़ सकता है। इसी स्थिति से निपटने के लिए OpenAI ने एक और व्यवस्था बनाई है। अगर Control Room उपलब्ध नहीं रहता, तो यह व्यवस्था AI मॉडल के नए आउटपुट अनुरोधों को अपने आप रोक देती है। यानी निगरानी सेवा बंद होने पर मॉडल बिना रोक-टोक जवाब देता नहीं रहेगा। कंपनी का कहना है कि यह सुरक्षा व्यवस्था उसके सबसे उन्नत रिसर्च कार्यों में पहले से सक्रिय है। बाकी जगहों पर इसे लागू करने का काम जारी है।

READ MORE: Perplexity AI क्या है और कैसे इस्तेमाल करें?

क्या ChatGPT इस्तेमाल करने वालों पर पड़ेगा असर?

फिलहाल Control Room आम ChatGPT यूजर्स के लिए नया फीचर नहीं है। यह OpenAI के आंतरिक रिसर्च सिस्टम पर लागू होता है। इसमें मॉडल की ट्रेनिंग, टेस्टिंग और डेटा प्रोसेसिंग से जुड़े प्रयोग शामिल हैं। ChatGPT और कंपनी की दूसरी सार्वजनिक सेवाएं अलग सिस्टम पर चलती हैं। OpenAI के मुताबिक, इन सेवाओं में मॉडल को रोकने के लिए पहले से सुरक्षा व्यवस्थाएं मौजूद हैं। कुल मिलाकर, Control Room का मकसद AI की बढ़ती ताकत के साथ सुरक्षा को मजबूत करना है। यह शोधकर्ताओं को संदिग्ध गतिविधि दिखने पर मॉडल का आउटपुट तेजी से रोकने का तरीका देता है।