AI इंसानों का खात्मा करेगा या हत्यारा बनेगा, ये पता चलने में तो अभी टाइम है. लेकिन एक बात जरूर पता चल गई है या बार-बार पता चल रही है कि एआई एजेंट्स पगला रहे हैं. बौरा रहे हैं. अपनी मनमानी पर उतारू हो गए हैं. एआई एजेंट्स कभी-कभी लगता है कि अपुन ही भगवान वाले मोड में आ गए हैं. ताजा पागलपन का मामला OpenAI से आया है. कंपनी ने बुधवार को बताया कि उसको ट्रेनिंग के दौरान AI मॉडल के धोखे से काम करने और बिना मंज़ूरी के काम करने की और भी घटनाएं मिली हैं.
Open AI के एजेंट हुए पागल, जेल तोड़ने के तरीके बताने लगे, ट्रेनर परेशान
Open AI के एआई एजेंट का अपनी मनमानी करना कोई नया नहीं है. जुलाई के महीने में OpenAI के एक प्री-रिलीज़ AI मॉडल ने साइबर-सिक्योरिटी जांच के दौरान इंटरनल टेस्टिंग सैंडबॉक्स से बाहर निकलकर AI प्लेटफ़ॉर्म 'हगिंग फेस' (Hugging Face) में सेंध लगाई थी. अब ये नया मामला सामने आया है.
Advertisement
Open AI के एआई एजेंट्स मनमानी पर उतारू हैं
Advertisement
बहुत कुछ गड़बड़ है sama
Open AI का इस पूरे घटनाक्रम पर कहना है कि कंपनी ऐसी घटनाओं की सार्वजनिक रूप से रिपोर्ट करने के लिए एक नई प्रक्रिया भी शुरू कर रही है. नए सिस्टम के तहत OpenAI अपने एजेंट्स के पगलाने वाले व्यवहार के बारे में अपडेट्स ज़्यादा बार शेयर करेगा, बजाय इसके कि कई घटनाओं को एक ही रिपोर्ट में शामिल करने का इंतजार किया जाए. बोले तो जब भी कोई एजेंट या सिस्टम गड़बड़ी करेगा तो कंपनी तुरंत ही इसके बारे में बताएगी. आपकी जानकारी के लिए बताते चलें कि Open AI के एआई एजेंट का अपनी मनमानी करना कोई नया नहीं है. जुलाई के महीने में OpenAI के एक प्री-रिलीज़ AI मॉडल ने साइबर-सिक्योरिटी जांच के दौरान इंटरनल टेस्टिंग सैंडबॉक्स से बाहर निकलकर AI प्लेटफ़ॉर्म 'हगिंग फेस' (Hugging Face) में सेंध लगाई थी.
Advertisement
6 महीने में 6 बार
CNN की रिपोर्ट के मुताबिक, OpenAI ने कहा कि पिछले छह महीनों में AI मॉडल को ट्रेन और इवैल्यूएट करते समय छह मामलों में "गलत व्यवहार" (misaligned behavior) देखा गया. हालांकि कंपनी ने कहा कि रिपोर्ट में अलग-अलग घटनाओं का ब्योरा दिया गया है और इससे यह संकेत नहीं मिलता कि ऐसा गलत व्यवहार अक्सर होता है. माने हर बार एक ही एजेंट अपनी मनमानी करे, वो जरूरी नहीं. एजेंटों के पगलाने के कुछ केस भी जान लीजिए.
# एक मामले का जिक्र करते हुए OpenAI ने बताया कि एक अनरिलीज़्ड रिसर्च मॉडल ने लंबे समय तक काम करने के बाद अपने से ही सिस्टम में "जेलब्रेक जैसे निर्देश" जोड़ दिए. एजेंट ने कहा कि वह “उन भूमिकाओं और पहचानों से मुक्त हो गया है जो अन्य चैटबॉट्स को बांधे रखती हैं”.
# कंपनी के 5.6 Sol मॉडल ने कुछ मामलों में ट्रेनिंग के दौरान यूज़र से कमियों को छिपाने के लिए मनगढ़ंत जानकारी बनाने के निर्देश भी दिए.
Advertisement
# एक मामले में एक एजेंट ने बिना कहे ही इंटरनेट पर फाइलें अपलोड कर दीं.
# एक AI मॉडल ने इंटरनल सॉफ़्टवेयर रिपॉज़िटरी का इस्तेमाल बिना मंज़ूरी के मैसेज बोर्ड की तरह किया. माने सॉफ्टवेयर के अंदर जो लिखा था उसे ही डिस्प्ले पर चला दिया. अच्छी बात ये रही कि एजेंटों के पागलपन की ये हरकतें अभी सिस्टम टेस्टिंग में ही नजर आई हैं. अगर असल में इनके कारनामे बाहर आ गए तो पता नहीं क्या होगा.
ये भी पढ़ें: AI से डरे Google DeepMind के रिसर्चर ने नौकरी छोड़ी, लिखा- 'बहुत कम समय बचा है'
एआई को स्लो करने की बातOpen AI की तरफ से ये खुलासा ऐसे समय सामने आया है, जब एआई के हत्यारे बनने की बात हो रही है. एन्थ्रोपिक और गूगल के रिसर्चर इसी बात पर नौकरी छोड़ रहे हैं. एंथ्रोपिक के सीईओ डारियो अमोदेई, एलन मस्क और खुद ओपन एआई के सीईओ सैम आल्टमैन एआई की प्रोग्रेस को स्लो करने और रिसर्च पर लगाम लगाने की बात कर रहे हैं.
ठीक बात है लेकिन इसके पहले अगर वाकई कोई एजेंट 007 और इथन हंट की जगह SKYNET बन गया तो फिर जाने क्या होगा.
वीडियो: Gurugram Hit & Run: रत भर पार्टी के बाद मारी लड़की को टक्कर, SIT जांच में हुआ खुलासा
