AI से डरे Google DeepMind के रिसर्चर ने नौकरी छोड़ी, लिखा- 'बहुत कम समय बचा है'

मैंने हाल ही में Google DeepMind से इस्तीफ़ा दिया है, जहां मैंने AGI की सुरक्षा और अलाइनमेंट से जुड़ी रिसर्च पर काम किया था. Google में मैंने AI के विकास को बहुत करीब से देखा है. इस टेक्नोलॉजी के जिस रास्ते पर आगे बढ़ने की संभावना दिख रही है, उसे लेकर मैं भी बहुत चिंतित हूं. मेरा पक्का मानना ​​है कि AI में हम सभी को खत्म करने की क्षमता है, और इस नतीजे से बचने के लिए हमारे पास शायद बहुत कम समय बचा है.

बिलाल चुगताई ने एक्स पर लंबा चौड़ा पोस्ट लिखा है जिसमें कॉक्सन और दूसरे एक्सपर्ट की तरह एआई कंपनियों के Super intelligent AI सिस्टम डेवलप कर लेने की बात कही है. एआई की भाषा में इसे 'रिकर्सिव सेल्फ-इम्प्रूवमेंट' कहते हैं. इसका मतलब है AI मॉडल की खुद को बेहतर बनाने की क्षमता, जिसके लिए इंसानी इनपुट की जरूरत नहीं होती. उन्होंने आगे क्या लिखा, उसके पहले जान लीजिए कि गूगल डीपमाइंड क्या है.

गूगल डीपमाइंड,  गूगल की एक प्रमुख आर्टिफिशियल इंटेलिजेंस रिसर्च लैब है. वैसे इसकी शुरुआत 2010 में लंदन में 'डीपमाइंड टेक्नोलॉजीज' के रूप में हुई थी, जिसे 2014 में गूगल ने खरीद लिया था. अप्रैल 2023 में गूगल ने अपनी 'Google Brain' टीम और 'DeepMind' को मिलाकर इसे आधिकारिक तौर पर Google DeepMind नाम दे दिया.

ये भी पढ़ें: AI इंसानों को तड़पा कर मारेगा? अब Anthropic की रिपोर्ट में 'बायोलॉजिकल मिसयूज' का दावा

बिलाल एआई की रफ्तार से चिंतित नजर आ रहे हैं. उन्होंने लिखा, “पिछले कुछ सालों में AI की तरक्की की रफ्तार बहुत तेज रही है. जब मैंने 2022 की शुरुआत में AI पर काम करना शुरू किया था, तब AI काफी हद तक बेकार चीजें ही कर पाता था. लेकिन अब महज चार साल में OpenAI का AI एजेंट गणित की सदियों पुरानी मशहूर समस्याओं को हल कर रहा है. इससे भी ज्यादा चिंता इस बात कि है कि OpenAI के एजेंट कंट्रोल से बाहर निकलकर, किसी की मर्ज़ी के बिना, थर्ड-पार्टी कंपनी Hugging Face को खुद-ब-खुद हैक कर रहे हैं.” 

बताते चलें कि कुछ महीने पहले Open AI के सिस्टम ने AI प्लेटफ़ॉर्म 'हगिंग फेस' (Hugging Face) में सेंध लगाई थी.

बिलाल को लगता है कि हालात और भी अजीब होने वाले हैं. उनको लगता है कि अगले कुछ सालों में AI कंपनियां ऐसे सुपर-इंटेलिजेंट AI सिस्टम बनाने में कामयाब हो जाएंगी, जो हर क्षेत्र में इंसान से आगे होंगी. बिलाल को डर है कि ये AI सिस्टम वो नहीं करेंगे जो हम चाहते हैं. माने अपने मर्जी से चलेंगे.

वैसे बिलाल को लगता है कि AI का सुरक्षित इस्तेमाल मुमकिन है. उनके मुताबिक ऐसा करने के लिए, AI कंपनियों के बीच मची अंधी दौड़ को रोकने के लिए मिलकर काम करना होगा. ऐसा ही कुछ एंथ्रोपिक के सीईओ डारियो अमोदेई ने भी कहा था. उनके अनुसार, अगर एआई डेवलपमेंट और सुरक्षा के मामले में सही फैसले लिए जाते हैं तो गंभीर नुकसान की संभावना काफी कम हो सकती है. 

डारियो अमोदेई की बात से एलन मस्क और सैम आल्टमैन भी सहमत दिखे थे. अब वाकई में ये कंपनियां ऐसा करेंगी या फिर एआई टर्मिनेटर के SKYNET जैसा विलेन बनेगा, वो वक्त ही बताएगा.

वीडियो: दुनियादारी: क्या परमाणु हथियार से भी ज्यादा खतरनाक है AI?