Open AI के एजेंट हुए पागल, जेल तोड़ने के तरीके बताने लगे, ट्रेनर परेशान

AI इंसानों का खात्मा करेगा या हत्यारा बनेगा, ये पता चलने में तो अभी टाइम है.लेकिन एक बात जरूर पता चल गई है या बार-बार पता चल रही है कि एआई एजेंट्स पगला रहेहैं. बौरा रहे हैं. अपनी मनमानी पर उतारू हो गए हैं. एआई एजेंट्स कभी-कभी लगता हैकि अपुन ही भगवान वाले मोड में आ गए हैं. ताजा पागलपन का मामला OpenAI से आया है.कंपनी ने बुधवार को बताया कि उसको ट्रेनिंग के दौरान AI मॉडल के धोखे से काम करनेऔर बिना मंज़ूरी के काम करने की और भी घटनाएं मिली हैं.6 महीने में 6 बारCNN की रिपोर्ट के मुताबिक, OpenAI ने कहा कि पिछले छह महीनों में AI मॉडल को ट्रेनऔर इवैल्यूएट करते समय छह मामलों में "गलत व्यवहार" (misaligned behavior) देखागया. हालांकि कंपनी ने कहा कि रिपोर्ट में अलग-अलग घटनाओं का ब्योरा दिया गया है औरइससे यह संकेत नहीं मिलता कि ऐसा गलत व्यवहार अक्सर होता है. माने हर बार एक हीएजेंट अपनी मनमानी करे, वो जरूरी नहीं. एजेंटों के पगलाने के कुछ केस भी जानलीजिए. # एक मामले का जिक्र करते हुए OpenAI ने बताया कि एक अनरिलीज़्ड रिसर्च मॉडल नेलंबे समय तक काम करने के बाद अपने से ही सिस्टम में "जेलब्रेक जैसे निर्देश" जोड़दिए. एजेंट ने कहा कि वह “उन भूमिकाओं और पहचानों से मुक्त हो गया है जो अन्यचैटबॉट्स को बांधे रखती हैं”.# कंपनी के 5.6 Sol मॉडल ने कुछ मामलों में ट्रेनिंग के दौरान यूज़र से कमियों कोछिपाने के लिए मनगढ़ंत जानकारी बनाने के निर्देश भी दिए. # एक मामले में एक एजेंट ने बिना कहे ही इंटरनेट पर फाइलें अपलोड कर दीं. # एक AI मॉडल ने इंटरनल सॉफ़्टवेयर रिपॉज़िटरी का इस्तेमाल बिना मंज़ूरी के मैसेजबोर्ड की तरह किया. माने सॉफ्टवेयर के अंदर जो लिखा था उसे ही डिस्प्ले पर चलादिया. अच्छी बात ये रही कि एजेंटों के पागलपन की ये हरकतें अभी सिस्टम टेस्टिंग मेंही नजर आई हैं. अगर असल में इनके कारनामे बाहर आ गए तो पता नहीं क्या होगा.बहुत कुछ गड़बड़ है sama (@Sam Altman)Open AI का इस पूरे घटनाक्रम पर कहना है कि कंपनी ऐसी घटनाओं की सार्वजनिक रूप सेरिपोर्ट करने के लिए एक नई प्रक्रिया भी शुरू कर रही है. नए सिस्टम के तहत OpenAIअपने एजेंट्स के पगलाने वाले व्यवहार के बारे में अपडेट्स ज़्यादा बार शेयर करेगा,बजाय इसके कि कई घटनाओं को एक ही रिपोर्ट में शामिल करने का इंतजार किया जाए. बोलेतो जब भी कोई एजेंट या सिस्टम गड़बड़ी करेगा तो कंपनी तुरंत ही इसके बारे में बताएगी.आपकी जानकारी के लिए बताते चलें कि Open AI के एआई एजेंट का अपनी मनमानी करना कोईनया नहीं है. जुलाई के महीने में OpenAI के एक प्री-रिलीज़ AI मॉडल नेसाइबर-सिक्योरिटी जांच के दौरान इंटरनल टेस्टिंग सैंडबॉक्स से बाहर निकलकर AIप्लेटफ़ॉर्म 'हगिंग फेस' (Hugging Face) में सेंध लगाई थी.We're sharing our new framework for tracking, investigating, and disclosinginstances of model misalignment at OpenAI.The framework sets criteria and timelines for public disclosure, including whenwe haven’t yet fully explained or mitigated the behavior. More complex casesmay…— OpenAI (@OpenAI) September 16, 2026 ये भी पढ़ें: AI से डरे Google DeepMind के रिसर्चर ने नौकरी छोड़ी, लिखा- 'बहुत कमसमय बचा है'एआई को स्लो करने की बातOpen AI की तरफ से ये खुलासा ऐसे समय सामने आया है, जब एआई के हत्यारे बनने की बातहो रही है. एन्थ्रोपिक और गूगल के रिसर्चर इसी बात पर नौकरी छोड़ रहे हैं. एंथ्रोपिकके सीईओ डारियो अमोदेई, एलन मस्क और खुद ओपन एआई के सीईओ सैम आल्टमैन एआई कीप्रोग्रेस को स्लो करने और रिसर्च पर लगाम लगाने की बात कर रहे हैं.ठीक बात है लेकिन इसके पहले अगर वाकई कोई एजेंट 007 और इथन हंट की जगह SKYNET बनगया तो फिर जाने क्या होगा.