Anthropic का बड़ा कदम, METR करेगा AI सुरक्षा की गहराई से जांच

Anthropic AI Safety : AI कंपनी Anthropic ने अपने AI मॉडल की सुरक्षा जांच के लिए बाहरी संस्था METR को अपने आंतरिक सिस्टम तक खास पहुंच दी है। कंपनी का कहना है कि इसका मकसद AI से होने वाले संभावित खतरों को समझना और तकनीक को सुरक्षित तरीके से आगे बढ़ाना है। Anthropic, Claude AI मॉडल बनाने वाली कंपनी है। गुरुवार को एक ब्लॉग पोस्ट में कंपनी ने बताया कि वह METR के साथ-साथ SecureBio और Accenture के AI कारोबार से जुड़ी Faculty के साथ भी काम कर रही है। इसके अलावा, कंपनी Hugging Face समेत दूसरी संस्थाओं से भी बातचीत कर रही है।

Anthropic ने AI के जोखिमों की जांच के लिए बाहरी विशेषज्ञों के साथ साझेदारी की है। METR को खास एक्सेस मिला है, जबकि कंपनी जांच और रिपोर्ट प्रकाशित करने के लिए तीन स्तरों की व्यवस्था बना रही है।

METR के 6 कर्मचारियों को मिली खास सुविधा

Anthropic के मुताबिक, METR (Model Evaluation and Threat Research) के 6 कर्मचारियों को कंपनी का हार्डवेयर, ऑफिस की जगह और आंतरिक सिस्टम का एक्सेस दिया गया है। उनकी पहुंच लगभग Anthropic की अपनी जोखिम जांच टीमों के बराबर है। हालांकि, इस सुविधा की कुछ सीमाएं हैं। METR के कर्मचारी ग्राहकों का डेटा, कानूनी रूप से गोपनीय जानकारी और AI मॉडल की आंतरिक बनावट से जुड़ी जानकारी नहीं देख सकेंगे।

Anthropic ने कहा है कि वह AI से जुड़े जोखिमों, घटनाओं और अपनी कार्यप्रणाली पर METR की रिपोर्ट को रोक नहीं सकती। हालांकि, कंपनी कुछ खास गोपनीय जानकारियों को रिपोर्ट से हटाने की मांग कर सकती है। METR को ऐसी कटौती पर सार्वजनिक रूप से सवाल उठाने का अधिकार होगा, लेकिन वह हटाई गई जानकारी उजागर नहीं कर सकेगा। METR ने भी कहा है कि उसकी रिपोर्ट में जांच के दायरे, मिली सुविधाओं और काम की सीमाओं के बारे में साफ जानकारी दी जाएगी।

रिपोर्ट प्रकाशित करने को लेकर क्यों है विवाद?

Reuters की एक विशेष रिपोर्ट के मुताबिक, Anthropic और OpenAI ने बाहरी जांचकर्ताओं की रिपोर्ट प्रकाशित करने की शर्तों पर अधिक नियंत्रण रखने की कोशिश की थी। कंपनियों को चिंता थी कि रिपोर्ट में उनके व्यापारिक रहस्य सामने आ सकते हैं। हालांकि, इस मामले से जुड़े एक व्यक्ति ने Reuters को बताया कि Anthropic के साथ बातचीत में हाल ही में बदलाव आया है और कंपनी अब शर्तों पर चर्चा करने के लिए अधिक तैयार है। मुख्य समस्या यह है कि AI मॉडल के जोखिम समझने के लिए कई बार ऐसी तकनीकी जानकारी भी जरूरी होती है, जिसे कंपनियां अपना गोपनीय डेटा मानती हैं। इसी वजह से रिपोर्ट में जानकारी हटाने और जांच की स्वतंत्रता को लेकर मतभेद होते हैं। विशेषज्ञों ने यह सवाल भी उठाया है कि जब AI कंपनियां खुद बाहरी जांचकर्ताओं को चुनती हैं, तो उनकी स्वतंत्रता कैसे सुनिश्चित होगी।

READ MORE : ऑस्ट्रेलिया में क्रिप्टो पर नए नियम, 2027 से पहले जानें बड़े बदलाव

जांच के लिए बनाए जा रहे हैं तीन स्तर

Anthropic बाहरी जांचकर्ताओं को तीन स्तरों पर एक्सेस देने की योजना बना रही है।

• जांच सीमित होगी और रिपोर्ट प्रकाशित करने के लिए कंपनी की मंजूरी जरूरी होगी।
• अधिक जानकारी मिलेगी और जांचकर्ता सीमित गोपनीय हिस्सों को हटाने की शर्त पर बिना पूर्व मंजूरी रिपोर्ट प्रकाशित कर सकेंगे।
• METR जैसी पहुंच मिलेगी, जिसमें कंपनी के कर्मचारियों के समान सिस्टम एक्सेस शामिल है।

READ MORE : Binance Pool बंद, माइनर्स तुरंत बदलें माइनिंग सेटिंग्स

SecureBio और Faculty भी करेंगे AI की जांच

SecureBio पहले स्तर पर काम कर रहा है। यह संस्था Anthropic की अगस्त में जारी जोखिम रिपोर्ट में रासायनिक और जैविक हथियारों से जुड़े हिस्से की समीक्षा कर रही है। इससे पहले उसने कंपनी की पिछली रिपोर्ट की शुरुआती समीक्षा प्रकाशित की थी। इस काम के बाद Anthropic, SecureBio को अधिक पहुंच और रिपोर्ट प्रकाशित करने की आजादी देने पर विचार करेगी। पिछले महीने घोषित Faculty के साथ साझेदारी में AI मॉडल की सुरक्षा जांच, उनकी कमजोरियों को परखना और यह देखना शामिल है कि वे निर्देशों के अनुसार काम करते हैं या नहीं। इन साझेदारियों से AI की स्वतंत्र जांच को बढ़ावा मिल सकता है। इससे तकनीक के विकास के साथ उसके संभावित खतरों को समझने और उन पर नियंत्रण रखने में मदद मिल सकती है।