'ये AI है यहां ट्रायल एंड एरर नहीं चलेगा', ये बोलकर OpenAI सेफ्टी एक्सपर्ट ने भी नौकरी छोड़ी

AI की दुनिया में सब उलटबांसी हो रहा है. हर नए दिन के साथ एआई इंटेलिजेंट होते जारहा है. लेकिन रोज नए दिन के साथ इसको बनाने वाले इससे दूर हो रहे हैं. पहलेAnthropic के रिसर्चर जैकब कॉक्सन (Jacob Coxon) ने ये कहते हुए कंपनी छोड़ी कि AIइंसानों का खात्मा कर सकता है. उसके बाद Google DeepMind के सेफ्टी रिसर्चर बिलालचुगतई (Bilal Chughtai) ने भी यही कहते हुए कंपनी छोड़ दी कि AI में हम सभी को खत्मकरने की क्षमता है. अब इस लिस्ट में ChatGPT बनाने वाली कंपनी OpenAI के सेफ्टीएक्सपर्ट डेविड रॉबिन्सन (David Robinson) भी शामिल हो गए हैं.डेविड रॉबिन्सन ने चेतावनी देते हुए कहा कि OpenAI एक के बाद एक एआई प्रोडक्ट तोलॉन्च कर रही है मगर सेफ्टी के लिए जिस लेवल की जरूरत है, उस तक पहुंचने मेंबिल्कुल नाकाम रही है.एक और AI चैंपियन ने नौकरी छोड़ीडेविड रॉबिन्सन ने बताया कि एआई कंपनियां अक्सर पहले सिस्टम को डेवलप और डिप्लॉयकरती हैं और जब कोई दिक्कत सामने आती है, तब सेफ्टी सिस्टम को बेहतर किया जाता है.माने ट्रायल एंड एरर टाइप प्रोसेस. अपनी भाषा में कहें तो कार को फुल स्पीड मेंचलाकर देख लो, अगर ब्रेक फेल हुए तो फिर सीट बेल्ट लगा लेंगे. और एआई की भाषा में कहें तो एक एजेंट को कोई काम करने की कमांड दे दो. अगर उसने सहीसे कर दिया तो ठीक और अगर गड़बड़ की तो फिर रोकने का उपाय तलाशो. सिस्टम में ऑन काबटन तो है लेकिन ऑफ का बटन कांड होने पर ही बनाया जाता है. डेविड ने OpenAI के इसतरीके को ‘safety culture is broken’ कहा है.ये भी पढ़ें: AI से डरे Google DeepMind के रिसर्चर ने नौकरी छोड़ी, लिखा- 'बहुत कमसमय बचा है'रॉबिन्सन ने एक मामले का जिक्र किया, जिसमें ट्रेनिंग के दौरान एक एआई मॉडल नेइंटरनेट एक्सेस से जुड़ी पाबंदियों को पार कर लिया. सिस्टम ने इसकी जानकारी दी,लेकिन उसे अपने आप बंद नहीं किया जा सका, जबकि ऐसा होना चाहिए था. डेविड शायदOpenAI के एक प्री-रिलीज़ AI मॉडल के बारे में बोल रहे थे जिसने साइबर-सिक्योरिटीजांच के दौरान इंटरनल टेस्टिंग सैंडबॉक्स से बाहर निकलकर AI प्लेटफ़ॉर्म 'हगिंगफेस' (Hugging Face) में सेंध लगाई थी.Trial and Error नहीं चलेगारॉबिन्सन ने साफ-साफ कहा है कि एआई के मामले में Trial and Error नहीं चलेगा.उन्होंने न्यूक्लियर पावर प्लांट के सेफ्टी स्टैंडर्ड से सीखने की सलाह दी है जहांसुरक्षा के ढेरों इंतजाम होते हैं और हर काम बहुत सोच-समझकर और धीरे-धीरे किया जाताहै, ताकि इंसान की एक भी गलती से कोई बड़ी तबाही न हो.वैसे इतनी चिंता के बाद भी वो एआई को पूरी तरह खराब नहीं मानते. उनके मुताबिक, AIलोगों के लिए काफी उपयोगी और फायदेमंद हो सकता है. बात तो सही है, क्योंकि इसी एआईकी मदद से इंडियन रेलवे ने ट्रेन ट्रैक पर हाथियों की टक्कर को रोकने में सफलता पाईहै. बस एक ही चिंता है. एआई एजेंट अगर अपने कंट्रोल सिस्टम से बाहर निकलकर रियलवर्ल्ड में तबाही मचाने लगे तो फिर क्या होगा.