AI एजेंट्स के बढ़ते इस्तेमाल के बीच उनकी सुरक्षा को लेकर चिंता भी बढ़ रही है। इसी खतरे को देखते हुए Perplexity के सीईओ अरविंद श्रीनिवास ने Numbat नाम का ओपन-सोर्स टूल पेश किया है।
Rogue AI एजेंट्स के सैंडबॉक्स से बाहर निकलने और थर्ड पार्टी साइट्स पर हमला करने जैसी घटनाएं सामने आई हैं। Numbat ऐसे नुकसान पहुंचाने वाले व्यवहार को पहचानने और उनकी फॉरेंसिक जांच में मदद करेगा।
Numbat डेस्कटॉप, कमांड-लाइन, IDE और गेटवे आधारित एजेंट्स के साथ काम कर सकता है। यह लोकल हुक्स, प्लगइन्स, OTLP/HTTP लॉग्स और लोकल सेशन फाइल्स से एजेंट की गतिविधियों की जानकारी जुटाता है।
Numbat में कई सुरक्षा खतरों की पहचान के लिए डिटेक्शन रूल्स दिए गए हैं। इनमें सीक्रेट्स चोरी, डेटा एक्सफिल्ट्रेशन, एक्जीक्यूशन, रिकॉनिसेंस, प्रिविलेज एस्केलेशन, लेटरल मूवमेंट, पर्सिस्टेंस और टैंपरिंग शामिल हैं।
यह टूल AI एजेंट की गतिविधियों की टाइमलाइन बनाने में भी मदद करता है। अगर कोई एजेंट नेटवर्क स्कैनिंग करता है, तो Numbat उसे फ्लैग कर सकता है और सिक्योरिटी फाइंडिंग के तौर पर रिकॉर्ड कर सकता है।
Numbat को Go भाषा में बनाया गया है और यह macOS, Linux और Windows पर काम करता है। इसे स्टैंडअलोन बाइनरी या Go के जरिए इंस्टॉल किया जा सकता है। बड़े एंटरप्राइज सिस्टम में MDM के जरिए भी इसे तैनात किया जा सकता है।