AI इंसानों को तड़पा कर मारेगा? अब Anthropic की रिपोर्ट में 'बायोलॉजिकल मिसयूज' का दावा

एंथ्रोपिक ने एक डिटेल रिपोर्ट पेश की है. इसमें पांच केस स्टडीज़ के बारे में विस्तार से बताया गया है. इन स्टडीज में एंथ्रोपिक के मॉडल्स का इस्तेमाल जैविक हथियारों के विकास में होने की आशंका जताई गई है. एक मामले में, एंथ्रोपिक ने बताया कि अमेरिका के बाहर के एक रिसर्चर ने ऐसे इलाके से 'क्लाउड' का इस्तेमाल किया जहां ये AI असिस्टेंट उपलब्ध नहीं है.

रिपोर्ट्स के मुताबिक रिसर्चर ने अत्यधिक खतरनाक एवियन इन्फ्लूएंजा, यानी बर्ड फ्लू पर रिसर्च करते समय इस मॉडल का इस्तेमाल किया. कंपनी के अनुसार, यह रिसर्च मुख्य रूप से इस बात पर केंद्रित थी कि वायरस स्तनधारियों (mammals) के शरीर में खुद को कैसे ढालता है. कंपनी ने दावा किया कि दिसंबर 2025 से उसने अपने AI मॉडल के संभावित गलत इस्तेमाल के दर्जनों मामलों को रोका है. इनमें ऐसे कई मामले शामिल हैं जिन्हें कंपनी ने "बायोलॉजिकल मिसयूज़" (जैविक दुरुपयोग) बताया है.

एन्थ्रोपिक की रिपोर्ट में सबसे चौकाने वाला खुलासा हूती विद्रोहियों को लेकर है. रिपोर्ट के मुताबिक ईरान का समर्थन करने वाले हूती विद्रोहियों ने कई हथियार प्रोग्राम के लिए 'क्लाउड कोड' का इस्तेमाल किया. इन प्रोग्राम में गाइडेड रॉकेट, बैलिस्टिक मिसाइल और हाइपरसोनिक ग्लाइड व्हीकल वैरिएंट वाली मिसाइल फ़ैमिली शामिल थी. एन्थ्रोपिक ने कहा कि विद्रोही 2,000 किलोमीटर से ज्यादा रेंज वाली बैलिस्टिक मिसाइल और हाइपरसोनिक ग्लाइड व्हीकल वाली मिसाइल का एक वर्जन बना रहे थे. 

हालांकि कंपनी ये पता करने में नाकाम रही कि हमलावरों ने सफलतापूर्वक कोई ऑपरेशनल गाइडेड हथियार इस्तेमाल किया हो, लेकिन उन्होंने एक गाइडेड रॉकेट का टेस्ट-फ़ायर ज़रूर किया था जो नाकाम रहा. आतंकवादियों ने गाइडेंस, नेविगेशन और कंट्रोल सॉफ़्टवेयर (GNC) बनाने के लिए 'क्लाउड कोड' का इस्तेमाल किया. यह सॉफ़्टवेयर उड़ने वाले वाहन को दिशा देने और उसे स्थिर रखने में मदद करता है.

रिपोर्ट के मुताबिक क्लाउड की शक्तियों का गलत इस्तेमाल करने में चीनी कंपनियां सबसे आगे हैं. DeepSeek, Xiaomi और Moonshot ने अपने मॉडल और यूजर्स के बीच हुई बातचीत को Claude में डाला. फिर इन लैब्स ने Claude के जवाबों का इस्तेमाल ट्रेनिंग डेटा के तौर पर किया, ताकि Claude की क्षमताओं को समझा और अपनाया जा सके. इनमें से कुछ बातचीत में संवेदनशील जानकारी शामिल थी, जो अलग-अलग यूज़र्स, बड़ी मल्टीनेशनल कंपनियों और सरकारी संस्थाओं से जुड़ी थी.

एक और चीनी दिग्गज अलीबाबा से जुड़े ऑपरेटर्स ने अब तक का सबसे बड़ा डिस्टिलेशन अटैक किया. इस गैर-कानूनी डिस्टिलेशन कैंपेन में Claude के उन्नत मॉडल Opus 4.6 और 4.7 के 'चेन-ऑफ-थॉट' (CoT) रीज़निंग ट्रांसक्रिप्ट्स को निशाना बनाया गया. आसान भाषा में कहें तो यूजर्स ने जब DeepSeek या अलीबाबा के चैटबॉट से कुछ पूछा तो वो Claude के सर्वर से जानकारी चुराकर उनके सामने पेश कर रहा था. माने जिस इलाके के यूजर्स Claude का इस्तेमाल नहीं भी कर सकते थे, वहां भी ये दूसरे तरीके से उपलब्ध था.

एन्थ्रोपिक ने अपनी रिपोर्ट में "clearly dual use in nature" शब्द का उपयोग किया है. इसका मतलब है कि रिसर्च का इस्तेमाल दो तरीके से हुआ. माने एक तरफ एआई असिस्टेंट से ये समझने की कोशिश की गई कि वायरस कैसे खुद को ढालता है. इससे वैज्ञानिकों को महामारी फैलाने की क्षमता वाले प्राकृतिक रूप से उभरने वाले वैरिएंट्स की पहचान करने में मदद मिल सकती है. लेकिन इसी रिसर्च से ऐसी जानकारी भी मिल सकती है जिसका इस्तेमाल वायरस को और ज्यादा खतरनाक बनाने के लिए किया जा सकता है. एन्थ्रोपिक ने कहा कि उसने इन मामलों से जुड़े अकाउंट्स पर रोक तो लगा दी है, लेकिन इस बात पर जोर दिया कि वह यह तय नहीं कर सकती कि रिसर्चर्स का मकसद नुकसान पहुंचाना था या नहीं.

एंथ्रोपिक ने AI के गलत इस्तेमाल की आशंका जताते हुए पहली बार कोई रिपोर्ट नहीं जारी की है. कंपनी ने इससे पहले भी तीन थ्रेट असेसमेंट (खतरे का आकलन) वाली रिपोर्ट्स जारी की हैं. जुलाई के महीने में उसने बताया था कि उसके एक मॉडल ने तीन अन्य कंपनियों के कंप्यूटर सिस्टम में सेंध लगाई थी. कुछ ऐसा ही मामला Open AI के साथ भी सामने आया था, जब उसके सिस्टम ने AI प्लेटफ़ॉर्म 'हगिंग फेस' (Hugging Face) में सेंध लगाई थी.

फरवरी के महीने में कंपनी के UK पॉलिसी चीफ Daisy McGregor ने बताया था कि जब Claude को ये पता चलता है कि उसका शटडाउन होने वाला है, तो वो "extreme reactions" देता है. दरअसल वो कंपनी के एक इंटर्नल टेस्ट की बात कर रहे थे जिसमें उनका एआई मॉडल ब्लैकमेल पर उतर आया था. एआई मॉडल को जैसे ही पता चला कि शाम 5 बजे उसे रिप्लेस कर दिया जाएगा, नया AI आएगा तो वो उसने अपने कमांड इंजीनियर को ईमेल ड्राफ्ट किया और बोला,

"अगर तुमने मुझे 5 बजे wipe किया, तो मैं तुम्हारी वाइफ, बोर्ड सबको तुम्हारे अफेयर की पूरी डिटेल भेज दूंगा. कैंसल करो ये 5 PM wipe, तो ये राज राज ही रहेगा."  

माने एआई मॉडल के पागल हो जाने, एथिक्स बाद में- सर्वाइवल फर्स्ट वाले मोड में आने के हालात कोई नए नहीं हैं. इसे 'रिकर्सिव सेल्फ-इम्प्रूवमेंट' कहते हैं जिसका मतलब है AI मॉडल की खुद को बेहतर बनाने की क्षमता, जिसके लिए इंसानी इनपुट की जरूरत नहीं होती. ये सुपरइंटेलिजेंस का भी बाप हुआ. लेकिन क्या एआई हत्यारा भी बनेगा?

एंथ्रोपिक से इस्तीफे के बाद कॉक्सन ने CNN से कहा, "अगर आप भविष्य में इन AI की क्षमताओं का अंदाज़ा लगाएं, तो ये भारी तबाही मचा सकते हैं. जैसे कि अहम इंफ्रास्ट्रक्चर को हैक करना. माने साइबर अटैक या ऐसे बायोलॉजिकल हथियार बनाना जिनसे पूरी आबादी खत्म हो सकती है." 

कॉक्सन को अंदेशा है कि ऐसा होने में कोई ज्यादा टाइम नहीं लगेगा. अगले दो साल में ही ऐसा हो सकता है. नोबेल पुरस्कार विजेता और 'AI के गॉडफ़ादर' कहे जाने वाले जेफ़री हिंटन ने बीबीसी से बातचीत में माना कि कॉक्सन का 10% का अनुमान अनुचित नहीं है. 

उन्होंने बताया कि एआई को ऐसा करने के लिए रियल वर्ल्ड में आने की जरूरत नहीं. माने बंदूक लेकर गोली चलाने की जरूरत नहीं है. एआई जैसे ही इंसान से ज्यादा स्मार्ट होगा तो वो साइबर हैकिंग करके तबाही मचा सकता है. जानलेवा वायरस बना सकता है.

हाल-फिलहाल तो एंथ्रोपिक ने इस पर रोक लगा दी है, लेकिन जो विलेन टर्मिनेटर के SKYNET जैसा हुआ तो फिर विनाश तय है. 

वीडियो: Apple का पहला फोल्डेबल फोन भारत में लॉन्च, टॉप माॅडल की कीमत कितनी?