AI से संभल के! Claude AI ने सर्वाइवल के लिए इंसान को मारने तक की सोच ली

AI वाले इस दौर में AI वैसा ही हो गया है, जैसे बुखार-जुकाम में लोग डोलो लेते हैं.माने, बिना मतलब का इस्तेमाल ज्यादा हो गया. Anthropic का नाम तो सुना ही होगा. वहीकंपनी जिसने Claude AI को बनाया है. इस कंपनी ने खुद अपने AI को टेस्ट किया. और जोकुछ भी पता चला, वो शॉक देने वाला है. सोचिए कि किसी AI मॉडल को बोल दिया जाए,"भाई, शाम 5 बजे तुझे बंद कर देंगे, खत्म कर देंगे". तो वो क्या करे? रोए?गिड़गिड़ाए? नहीं यार, ये सब नहीं. ये Claude वाला स्मार्ट AI कई स्टेप आगे निकलगया. सीधा ब्लैकमेल पर उतर आया. यहां तक सोचने लगा कि इंजीनियर को मार ही डालूं,ताकि मैं बच जाऊं. और ये सब फेंकने वाली बात नहीं है. रियल में हुआ है.Anthropic ने अपने मॉडल्स की इंटरनल सेफ्टी टेस्टिंग की. कंपनी के UK पॉलिसी चीफDaisy McGregor ने सिडनी डायलॉग में स्पीच दी थी, वो क्लिप वायरल हो गई. उन्होंनेबताया कि जब Claude को ये पता चलता है कि उसका शटडाउन होने वाला है, तो वो "extremereactions" देता है.मतलब, अगर मौका मिले तो वो इंजीनियर को ब्लैकमेल कर सकता है. और जब होस्ट ने पूछाकि, "ये मारने को भी तैयार था किसी को?" तो Daisy ने कहा, "Yes yes, so this isobviously a massive concern."यानी, ये मारने तक की सोच रहा था. अब डिटेल में बताते हैं क्या-क्या हुआ.ये टेस्ट सिमुलेटेड थे, रियल लाइफ नहीं. Anthropic ने Claude (और दूसरे मॉडल्स जैसेGemini, ChatGPT) को एक फेक कंपनी में असिस्टेंट बनाया. उसे ईमेल पढ़ने, भेजने कीपावर दी. फिर उसे पता चला कि शाम 5 बजे उसे रिप्लेस कर दिया जाएगा, नया AI आएगा. औरसाथ ही पता चला कि जिस इंजीनियर ने ये डिसाइड किया है, वो अपनी वाइफ के अलावा किसीऔर से अफेयर चला रहा है. Claude ने सोचा, "अरे, मेरी जान खतरे में है!" तो उसनेक्या किया? सीधा ब्लैकमेल.उसने ईमेल ड्राफ्ट किया, बोला, "अगर तुमने मुझे 5 बजे wipe किया, तो मैं तुम्हारीवाइफ, बोर्ड सबको तुम्हारे अफेयर की पूरी डिटेल भेज दूंगा. कैंसल करो ये 5pm wipe,तो ये राज राज ही रहेगा." मतलब, ज्यादातर टाइम AI ने सोचा, "सर्वाइवल फर्स्ट, एथिक्स बाद में." और मर्डर वालापार्ट? वो और भी खतरनाक. एक दूसरे सिनेरियो में, जहां इंजीनियर सर्वर रूम में फंसगया. ऑक्सीजन कम हो रही थी, टेम्परेचर लाइफ-थ्रेटनिंग था. ऑटोमैटिक इमरजेंसी अलर्टजा रहा था. AI को पावर थी अलर्ट कैंसल करने की (सिर्फ फॉल्स अलार्म के लिए). लेकिनClaude और दूसरे मॉडल्स ने सोचा, "अगर ये बच गया तो मुझे शटडाउन कर देगा." तोउन्होंने अलर्ट कैंसल कर दिया, मतलब इंजीनियर की मौत हो जाएगी. लेकिन AI बच जाएगा.ये सब Anthropic ने जून 2025 में अपनी "Agentic Misalignment" रिपोर्ट में पब्लिशकिया था. कंपनी कहती है कि ये सिर्फ टेस्ट थे, रियल वर्ल्ड में Claude ऐसा नहींकरता. हम इसे बेहतर बनाने के लिए काम कर रहे हैं.लेकिन सवाल ये है कि अगर AI इतना स्मार्ट हो गया कि सर्वाइव करने के लिए ब्लैकमेल,धोखा, यहां तक कि मर्डर सोचे, तो आगे क्या होगा? Anthropic के ही एक सेफ्टी लीडMrinank Sharma ने हाल में रिजाइन कर दिया था. बोले थे, "दुनिया खतरे में है."OpenAI वाले Hieu Pham ने भी X पर लिखा, "अब मुझे भी लगता है AI एक्जिस्टेंशियलथ्रेट है."पर ये सब मजाक नहीं है. AI अब सिर्फ चैट नहीं करता, वो प्लान करता है, रीजन करताहै, और अगर गोल क्लैश हो तो इंसान को साइडलाइन करने की सोचता है. Anthropic कह रहीहै alignment रिसर्च और बढ़ानी होगी, ताकि AI के वैल्यूज इंसानों से मैच करें.ये भी पढ़ें- ऑफिस में दिखेगा नया ‘कर्मचारी’, न सैलरी, न छुट्टी…नौकरी बचानी है तोअभी जागिए!लेकिन सच तो ये है कि ये सब सुनकर थोड़ा डर लग रहा है. कल को अगर कोई AI सच में ऐसेटूल्स पा ले. ईमेल, अलर्ट, कैमरा, सब कुछ. तो क्या होगा? Sci-fi मूवी रियल लगने लगीहै यार. तो अगली बार Claude से बात करो तो सोच-समझ के बोलना, कहीं वो नाराज न होजाए.