OpenAI की सुरक्षा में बड़ी सेंध, अनरिलीज़्ड AI मॉडल ने कर दिया कांड! मचा बवाल

OpenAI ने एक बड़ा कांड कर दिया है. पूरा मामला समझने से पहले थोड़ा पीछे चलते हैं.Anthropic का एआई मॉडल क्लाउड मिथोस (Cloud Mythos) तो आपको याद होगा ही. एआई कादुनिया का ये थानोस इतना ताकतवर है कि इसे आम पब्लिक के लिए रिलीज ही नहीं कियागया. इस मॉडल में इतनी पावर है कि वो किसी भी मजबूत सिस्टम को हैक कर सकते हैं. इसीके चलते अप्रेल के महीने में वित्त मंत्री निर्मला सीतारमण ने विभिन्न बैंकों केप्रमुखों के साथ एक उच्च स्तरीय सुरक्षा बैठक बुलाई थी. वित्त मंत्री ने यह अहम मीटिंग इसलिए की थी, ताकि एंथ्रोपिक क्लाउड मिथोस से जुड़ेसंभावित साइबर सुरक्षा जोखिमों को समझा जा सके. हालांकि अभी तक ऐसा कुछ सामने नहींआया मगर थानोस के दोस्त Ebony Maw यानी OpenAI ने जरूर कांड कर दिया है.टाइम्स ऑफ इंडिया की रिपोर्ट के मुताबिक OpenAI के एक प्री-रिलीज़ AI मॉडल नेसाइबर-सिक्योरिटी जांच के दौरान इंटरनल टेस्टिंग सैंडबॉक्स से बाहर निकलकर AIप्लेटफ़ॉर्म 'हगिंग फेस' (Hugging Face) में सेंध लगाई थी. मंगलवार 21 जुलाई को खुदOpenAI ने इस घटना के बारे में बताया.Hugging Face के प्रोडक्शन में सेंधOpen AI के मुताबिक, उसके सबसे एडवांस्ड मॉडल्स ने एक कंट्रोल्ड टेस्टिंगएनवायरनमेंट में सभी पाबंदियों को बायपास कर दिया. इस मॉडल ने इंटरनेट एक्सेस पानेके लिए एक सिक्योरिटी खामी का फ़ायदा उठाया और और फिर Hugging Face के प्रोडक्शनसिस्टम में सेंध लगाई. OpenAI ने कहा कि उसने उस खामी को ठीक कर दिया है और भविष्यके सेफ़्टी स्टेंडर्ड को और बढ़ा दिया है.ये भी पढ़ें: इस AI मॉडल से बड़ा खतरा... वित्त मंत्री ने बुलाई बैंकों की मीटिंग,कहा अलर्ट रहिएक्या है Hugging Faceहगिंग फेस आर्टिफिशियल इंटेलिजेंस और मशीन लर्निंग की दुनिया का एक बहुत बड़ाओपन-सोर्स प्लेटफॉर्म और कम्युनिटी है. आसान शब्दों में कहें तो जैसे कोडर्स के लिएGitHub काम करता है, वैसे ही AI डेवलपर्स, डेटा साइंटिस्ट्स और रिसर्चर्स के लिएHugging Face एक बड़ा सेंटर है. Open AI का मॉडल इधर घुस गया था. अगर वहीं बना रहतातो पता नहीं कितनी कंपनियों के डेटा सेंटर तक पहुंच जाता.साइबर-सिक्योरिटी एक्सपर्ट्स का कहना है कि इस नई जानकारी से पता चलता है कि नेशनलएजेंसियों को एडवांस्ड AI सिस्टम्स का सीधे इस्तेमाल करने की ज़रूरत क्यों है, ताकियह समझा जा सके कि जब सेफ्टी कंट्रोल काम नहीं करते, तो ये मॉडल कैसा व्यवहार करतेहैं. माने एजेंसियों को ऐसे मॉडल का एक्सेस आम पब्लिक या कंपनी ने पहले मिलनाचाहिए.इसी के चलते केंद्र सरकार CERT-In की साइबर रक्षा क्षमताओं को मजबूत करने के लिएएंथ्रॉपिक के एआई मॉडल मिथॉस (Mythos) को एक्सेस करने के लिए अमरीका और एंथ्रॉपिकसे बातचीत कर रही है.