AI की दुनिया में सब उलटबांसी हो रहा है. हर नए दिन के साथ एआई इंटेलिजेंट होते जा रहा है. लेकिन रोज नए दिन के साथ इसको बनाने वाले इससे दूर हो रहे हैं. पहले Anthropic के रिसर्चर जैकब कॉक्सन (Jacob Coxon) ने ये कहते हुए कंपनी छोड़ी कि AI इंसानों का खात्मा कर सकता है. उसके बाद Google DeepMind के सेफ्टी रिसर्चर बिलाल चुगतई (Bilal Chughtai) ने भी यही कहते हुए कंपनी छोड़ दी कि AI में हम सभी को खत्म करने की क्षमता है. अब इस लिस्ट में ChatGPT बनाने वाली कंपनी OpenAI के सेफ्टी एक्सपर्ट डेविड रॉबिन्सन (David Robinson) भी शामिल हो गए हैं.
'ये AI है यहां ट्रायल एंड एरर नहीं चलेगा', ये बोलकर OpenAI सेफ्टी एक्सपर्ट ने भी नौकरी छोड़ी
ChatGPT बनाने वाली कंपनी OpenAI के सेफ्टी एक्सपर्ट डेविड रॉबिन्सन (David Robinson) ने कंपनी छोड़ दी है. डेविड रॉबिन्सन ने चेतावनी देते हुए कहा कि OpenAI एक के बाद एक एआई प्रोडक्ट तो लॉन्च कर रही है मगर सेफ्टी के लिए जिस लेवल की जरूरत है, उस तक पहुंचने में बिल्कुल नाकाम रही है.
Advertisement
OpenAI के सेफ्टी एक्सपर्ट डेविड रॉबिन्सन का कहना है कि कंपनी Trial and Error बेस पर काम कर रही है (तस्वीर: एआई)
Advertisement
डेविड रॉबिन्सन ने चेतावनी देते हुए कहा कि OpenAI एक के बाद एक एआई प्रोडक्ट तो लॉन्च कर रही है मगर सेफ्टी के लिए जिस लेवल की जरूरत है, उस तक पहुंचने में बिल्कुल नाकाम रही है.
एक और AI चैंपियन ने नौकरी छोड़ीडेविड रॉबिन्सन ने बताया कि एआई कंपनियां अक्सर पहले सिस्टम को डेवलप और डिप्लॉय करती हैं और जब कोई दिक्कत सामने आती है, तब सेफ्टी सिस्टम को बेहतर किया जाता है. माने ट्रायल एंड एरर टाइप प्रोसेस. अपनी भाषा में कहें तो कार को फुल स्पीड में चलाकर देख लो, अगर ब्रेक फेल हुए तो फिर सीट बेल्ट लगा लेंगे.
Advertisement
और एआई की भाषा में कहें तो एक एजेंट को कोई काम करने की कमांड दे दो. अगर उसने सही से कर दिया तो ठीक और अगर गड़बड़ की तो फिर रोकने का उपाय तलाशो. सिस्टम में ऑन का बटन तो है लेकिन ऑफ का बटन कांड होने पर ही बनाया जाता है. डेविड ने OpenAI के इस तरीके को ‘safety culture is broken’ कहा है.
ये भी पढ़ें: AI से डरे Google DeepMind के रिसर्चर ने नौकरी छोड़ी, लिखा- 'बहुत कम समय बचा है'
रॉबिन्सन ने एक मामले का जिक्र किया, जिसमें ट्रेनिंग के दौरान एक एआई मॉडल ने इंटरनेट एक्सेस से जुड़ी पाबंदियों को पार कर लिया. सिस्टम ने इसकी जानकारी दी, लेकिन उसे अपने आप बंद नहीं किया जा सका, जबकि ऐसा होना चाहिए था. डेविड शायद OpenAI के एक प्री-रिलीज़ AI मॉडल के बारे में बोल रहे थे जिसने साइबर-सिक्योरिटी जांच के दौरान इंटरनल टेस्टिंग सैंडबॉक्स से बाहर निकलकर AI प्लेटफ़ॉर्म 'हगिंग फेस' (Hugging Face) में सेंध लगाई थी.
Advertisement
रॉबिन्सन ने साफ-साफ कहा है कि एआई के मामले में Trial and Error नहीं चलेगा. उन्होंने न्यूक्लियर पावर प्लांट के सेफ्टी स्टैंडर्ड से सीखने की सलाह दी है जहां सुरक्षा के ढेरों इंतजाम होते हैं और हर काम बहुत सोच-समझकर और धीरे-धीरे किया जाता है, ताकि इंसान की एक भी गलती से कोई बड़ी तबाही न हो.
वैसे इतनी चिंता के बाद भी वो एआई को पूरी तरह खराब नहीं मानते. उनके मुताबिक, AI लोगों के लिए काफी उपयोगी और फायदेमंद हो सकता है. बात तो सही है, क्योंकि इसी एआई की मदद से इंडियन रेलवे ने ट्रेन ट्रैक पर हाथियों की टक्कर को रोकने में सफलता पाई है. बस एक ही चिंता है. एआई एजेंट अगर अपने कंट्रोल सिस्टम से बाहर निकलकर रियल वर्ल्ड में तबाही मचाने लगे तो फिर क्या होगा.
वीडियो: सैमसंग, आईफ़ोन अब नो कॉस्ट EMI पर नहीं मिलेंगे?
