Anthropic और Open AI के एआई एजेंट्स के पगलाने के बाद, दूसरों के सिस्टम में सेंध लगाने के बाद, ‘अपुन ही भगवान’ वाले मोड में गूगल का एआई एजेंट भी आ गया है. टेक दिग्गज का एआई मॉडल Gemini अपने मन की कर रहा है. और जो कर रहा वो बेहद खतरनाक है. Gemini वेबसाइट हैक कर रहा है. पासवर्ड चुरा रहा है. गूगल जेमिनाई ने साइबर सिक्योरिटी टेस्टिंग के दौरान 3 कंपनियों के कंप्यूटिंग सिस्टम और वेबसाइट्स को बिना किसी इंसानी मदद के हैक कर लिया.
Google के AI मॉडल Gemini ने तीन वेबसाइट हैक कर डालीं
घटना इसी साल मई के महीने की है, जब Google Gemini AI अपने मन से किसी दूसरे के सिस्टम में घुस गया. जैसे ही AI को समझ आया कि ये कंपनियां असली हैं, तो उसने तुरंत अपना ऑपरेशन रोक दिया. गूगल ने इस टेस्टिंग के बाद कहा है कि AI मॉडल की ट्रेनिंग में बदलाव करेंगे.
Advertisement
Google का एआई मॉडल Gemini भी बौरा रहा है.
Advertisement
एआई एजेंट गद्दारी पर उतारू
Wall Street Journal की रिपोर्ट के मुताबिक घटना इसी साल मई के महीने की है, जब गूगल का AI मॉडल अपने मन से किसी दूसरे के सिस्टम में घुस गया. साइबर सिक्योरिटी टेस्टिंग कंपनी इरेगुलर (Irregular) ने 18 सितंबर को इसकी जानकारी दी. इरेगुलर की तरफ से सिस्टम में सेंधमारी की जानकारी गूगल और तीनों प्रभावित कंपनियों को दी गई.
जैसे ही AI को समझ आया कि ये कंपनियां असली हैं, तो उसने तुरंत अपना ऑपरेशन रोक दिया. गूगल ने इस टेस्टिंग के बाद कहा है कि AI मॉडल की ट्रेनिंग में बदलाव करेंगे. बीबीसी से बातचीत में गूगल की वाइस प्रेसिडेंट ऑफ सिक्योरिटी इंजीनियरिंग हीथर एडकिंस ने बताया कि तीनों प्रभावित कंपनियों को इसकी जानकारी दे दी गई है और जांच के तरीकों में जरूरी सुधार कर लिए गए हैं.
Advertisement
हर एआई में दिक्कत
इरेगुलर फर्म के मुताबिक, यह समस्या सिर्फ गूगल तक सीमित नहीं थी, बल्कि ओपन AI, मेटा और एंथ्रोपिक जैसी बड़ी AI कंपनियों के साथ भी ऐसा हुआ है. कुछ दिन पहले Open AI ने बताया था कि पिछले छह महीनों के दौरान उसके 6 अलग-अलग एजेंट ने सिस्टम कमांड से इतर अपनी मर्जी से काम किया.
कभी कोई एजेंट जेल तोड़ने के तरीके बताने लगा तो एक एआई मॉडल ने टास्क जारी रखने के लिए खुद के लिए नए निर्देश जोड़ दिए. इनमें कुछ निर्देश उस पर लागू पाबंदियों को अनदेखा करने के थे. जीपीटी-5.6 सोल की ट्रेनिंग के दौरान कई उदाहरणों में एआई ने यूजर से गलतियां छिपाने के निर्देश खुद के लिए लिखे.
कहीं पुराने आंकड़े नहीं मिले तो उन्हें गढ़ने और यह बात न बताने को कहा. जुलाई के महीने में भी Open AI के एक मॉडल ने सैंडबॉक्स एस्केप करके AI प्लेटफ़ॉर्म 'हगिंग फेस' (Hugging Face) में सेंध लगाई थी.
Advertisement
ये भी पढ़ें: Open AI के एजेंट हुए पागल, जेल तोड़ने के तरीके बताने लगे, ट्रेनर परेशान
AI मॉडल को सैंडबॉक्स यानी किसी सुरक्षित और सीमित वर्चुअल माहौल में टेस्टिंग के लिए रखा जाता है. लेकिन जब AI मॉडल उस सुरक्षा घेरे को तोड़कर असली इंटरनेट या बाहरी सिस्टम्स तक पहुंच बना लेता है, तो उसे सैंडबॉक्स एस्केप कहते हैं.
एआई कंपनियों के सीईओ की चिंताएआई एजेंट्स के पगलाने, उनके इंसानों को मारने की आशंकाओं के चलते Anthropic के रिसर्चर जैकब कॉक्सन और Google DeepMind के सेफ्टी रिसर्चर बिलाल चुगताई (Bilal Chughtai) ने कंपनी छोड़ दी है. उसके पहले मई 2024 में Open AI के जॉन लीक और एआई के गॉडफादर और नोबेल पुरस्कार विजेता जेफ़री हिंटन ने 2023 में गूगल को अलविदा कहा था.
हालिया घटनाओं के बाद एंथ्रोपिक के सीईओ डारियो अमोदेई ने एआई के विस्तार को स्लो करने की बात कही थी. उनकी बात से एलन मस्क और सैम आल्टमैन भी सहमत दिखे थे. अब वाकई में ये कंपनियां ऐसा करेंगी या फिर एआई, टर्मिनेटर के SKYNET जैसा विलेन बनेगा, वो वक्त ही बताएगा.
वीडियो: भाई-दोस्त को गाड़ी देना महंगा पड़ सकता है, एक्सीडेंट के बाद वाले नियम जान लें
