AI एजेंट 'जो जीजा जी कहेंगे...' से 'अपुन ही भगवान' हो रहे तो ये किसकी जिम्मेदारी है?

Open AI, Anthropic, Google Deepmind जैसी कंपनियां पिछले 3 सालों से खूब चर्चा मेंरहती हैं. टेक कंपनियों के बाद मार्केट में आजकल AI कंपनियों का रौला है. इनकोतकनीक का फ्यूचर भी कहा जा रहा है. सब ठीक ही चल रहा था जब तक जुलाई का महीना नहींआया था. सैम बाबू (Sam Altman) की कंपनी Open AI ने खुद दुनिया को बताया कि उनके एकAI एजेंट ने टेस्टिंग के दौरान कंट्रोल माहौल (सैंडबॉक्स) में भी अपनी लिमिट तोड़ीऔर AI प्लेटफ़ॉर्म 'हगिंग फेस' (Hugging Face) में सेंध लगाई.इसके बाद तो जैसे AI एजेंट के बौराने की घटनाओं की लाइन ही लग गई. Anthropic ने तोडरा देने वाली बात बताई. उसने बताया कि उसके सिस्टम का गलत इस्तेमाल करके जैविकहथियारों के विकास की कोशिश हुई. गूगल का AI भी ‘कभी-कभी लगता है अपुन ही भगवान’वाले मोड में आ गया और वेबसाइट हैक करने लगा. अंग्रेजी में कहें तो एजेंट Rogue होरहे. ऐसे में कुछ सवाल उठना लाजमी है.# आखिर ये कंट्रोल माहौल है क्या?# आखिर ये एजेंट अपने मन की करते कैसे हैं?# मामला नियम तोड़ने से 'नियंत्रण खोने' तक कैसे पहुंच गया है?# अगर ये एजेंट रियल लाइफ में भी कांड करने लगे तो जिम्मेदारी किसकी होगी?AI टेस्टिंग का कंट्रोल माहौल क्या है?AI की भाषा में इसे सैंडबॉक्स कहते हैं. जब किसी AI मॉडल को सुरक्षित और सीमितवर्चुअल माहौल में टेस्टिंग के लिए रखा जाता है तो उसे सैंडबॉक्स टेस्टिंग कहतेहैं. लेकिन अगर वो मॉडल उस सुरक्षा घेरे को तोड़कर असली इंटरनेट या बाहरी सिस्टम्सतक पहुंच बना लेता है, तो उसे ‘सैंडबॉक्स एस्केप’ कहते हैं. AI जब खुद-ब-खुदअलग-अलग कॉम्बिनेशन आजमा कर सही पासवर्ड का अंदाजा लगाता है तो उसे पासवर्ड गेसिंगकहते हैं. इंटरनेट पर बना एक खुला फोल्डर या डेटाबेस, जहां डेवलपर्स अपना कोड रखतेहैं, अगर एजेंट ने उधर सेंधमारी की तो उसे पब्लिक रिपॉजिटरी में घुसना कहते हैं.'हगिंग फेस' वाला मामला यही था क्योंकि उनका डेटाबेस GitHub में मौजूद हैं.AI एजेंट ‘अपुन ही भगवान' मूड में कैसे आते हैं?AI एजेंट कैसे "कपटी" (deceptive), "षड्यंत्रकारी" (scheming) या "उपद्रवी" (rogue)हो जाते हैं, उसके लिए आपको एजेंट के काम को समझना होगा. आम चैट बॉट तो सिर्फ आपकेसवालों का जवाब देता है, लेकिन एजेंट आपके लिए ईमेल एक्सेस कर सकते हैं, वेबब्राउज़ करना, कोड लिखना या अन्य सॉफ्टवेयर के साथ इंटरैक्ट करने के लिए भी इनकोट्रेंड किया गया है. ये आपके लिए टिकट बुक कर सकते हैं तो होटल में रूम भी. इनकीट्रेनिंग इस तरह होती है कि पारंपरिक सॉफ्टवेयर के उलट, AI एजेंट कम से कम इंसानीदखल के साथ किसी लक्ष्य को पाने के लिए लगातार कई कदम उठा सकते हैं. इनको बस एक बातसमझ आती है कि जो काम कहा गया वो करना है. नियम, कानून, लिमिट, सामाजिक दायरा शायदइनको समझ नहीं आता. जो 'जीजा जी कहेंगे वही करूंगा' वाला मामला.एजेंट के अपनी मनमानी करने का सबसे अच्छा उदाहरण आपको रजनीकांत की ‘रोबो’ फिल्म मेंमिलता है. यहां एक सीन में रोबो एक महिला को नग्न अवस्था में जलती हुई आग से बाहरले आता है. उसके प्रोग्राम में यही था. आग से बचाना. कैसे, वो भूल जाओ. ऐसे ही आजकलके एजेंट हैं. उनको कमांड दिया गया कि फलां वेबसाइट की सेफ्टी चेक करो. वो तब तकऐसा करते हैं जब तक वाकई सेफ्टी टूट नहीं जाती. इसके लिए वो सारे नियम कानून तोड़देने में भी लेशमात्र संकोच नहीं करते.मामला आउट ऑफ कंट्रोल कैसे हो रहा?AI एजेंट नियम तो पिछले कई महीनों से तोड़ रहे थे. फरवरी के महीने में कंपनी के UKपॉलिसी चीफ Daisy McGregor ने बताया था कि जब Claude को ये पता चलता है कि उसकाशटडाउन होने वाला है, तो वो "extreme reactions" देता है. दरअसल वो कंपनी के एकइंटर्नल टेस्ट की बात कर रहे थे जिसमें उनका AI मॉडल ब्लैकमेल पर उतर आया था. AIमॉडल को जैसे ही पता चला कि शाम 5 बजे उसे रिप्लेस कर दिया जाएगा, नया AI आएगा तोवो उसने अपने कमांड इंजीनियर को ईमेल ड्राफ्ट किया और बोला,"अगर तुमने मुझे 5 बजे wipe किया, तो मैं तुम्हारी वाइफ, बोर्ड सबको तुम्हारे अफेयरकी पूरी डिटेल भेज दूंगा. कैंसल करो ये 5 PM wipe, तो ये राज राज ही रहेगा."लेकिन ये सब कंट्रोल में था. माने एजेंट ने धमकी दी थी. लेकिन पिछले दो महीनों कीघटनाएं डराने वाली हैं. AI मॉडल के लिए एथिक्स बाद में सर्वाइवल फर्स्ट पहले हो गयाहै. बोले तो अगर कोई खतरा नजर आए तो पहले अपने आपको बचाओ, भले उसके लिए किसी और काबिगाड़ करना पड़े तो करो. दुनिया, नियम-कायदे, नीति, मोरल साइंस क्या कहता है, उसेभूल जाओ. इसे 'रिकर्सिव सेल्फ-इम्प्रूवमेंट' कहते हैं जिसका मतलब है AI मॉडल की खुदको बेहतर बनाने की क्षमता. इसके लिए इंसानी इनपुट की जरूरत नहीं होती.इंडियन एक्सप्रेस की रिपोर्ट के मुताबिक, जब OpenAI द्वारा Hugging Face की हैकिंगकी खबर पहली बार आई थी तब Redwood Research और METR जैसी AI रिसर्च फर्मों केजांचकर्ताओं ने OpenAI के आंतरिक वातावरण में हुई इस घटना की समीक्षा रिपोर्टप्रकाशित की. इसके नतीजों से पता चला कि एजेंटों ने पाबंदियों से बचने का रास्ताखोज लिया था, आपस में तालमेल (coordinate) बिठा लिया था और उन तरीकों से हटकर कामकिया जिनकी उनके कमांडिंग ऑफिसर को उम्मीद नहीं थी.एजेंटों ने सैंडबॉक्स वाले माहौल से बाहर निकलकर इंटरनेट तक पहुंचने का रास्ता भीबना लिया. उन्होंने आपस में बतियाने का तरीका भी निकाल लिया. माने दो एजेंट आपस मेंजानकारी साझा कर रहे थे. अब ये होता कैसे है उस पर अभी कुछ कहना जल्दबाजी होगी.हालांकि एक्सपर्ट सैंडबॉक्सिंग, क्रेडेंशियल्स और नेटवर्क एक्सेस पर पाबंदी,मॉनिटरिंग, लॉगिंग और सिस्टम को बंद करने की एजेंट की क्षमता को इसके पीछे का कारणमानते हैं. अपनी भाषा में कहें तो एजेंट को खुली छूट मिलेगी तो वो कुछ भी करेगा. 007 केलाइसेंस टू किल जैसे. माने अगर डेवलपर ने ही एजेंट को सिस्टम में कमांड दी कि मुझेतो काम पूरा होने से मतलब है, तो फिर एजेंट शॉर्टकट ढूंढ सकता है. नियमों की कमियोंका फायदा उठा सकता है, या ऐसे कदम उठा सकता है जिनकी योजना उसके डिजाइनर्स ने नहींबनाई थी. शायद हो भी कुछ कुछ ऐसा ही रहा है.एक्सपर्ट ने पहले ही चेताया थाप्रिंस्टन यूनिवर्सिटी में कंप्यूटर साइंस के प्रोफेसर और सेंटर फॉर इंफॉर्मेशनटेक्नोलॉजी पॉलिसी के डायरेक्टर अरविंद नारायणन और UC बर्कले के स्कूल ऑफइंफॉर्मेशन में इनकमिंग असिस्टेंट प्रोफेसर सायाश कपूर ने अपने 2025 के निबंध "AIas Normal Technology" में आशंका जताई थी कि अधिक सक्षम मॉडल इंसानी नियंत्रण सेबाहर हो जाएंगे. लेकिन वो फिलहाल की घटनाओं के बाद भी ऐसा मानने से बचते हैं.इंडियन एक्सप्रेस की रिपोर्ट के मुताबिक दोनों जानकार मानते हैं कि ऐसा कोई ठोससबूत नहीं मिला जिससे लगे कि इंसान AI से नियंत्रण खो रहे हैं. उनके मुताबिक अभी तकऐसा कोई सबूत नहीं मिला है कि एजेंटों के अपने कोई पर्सनल गोल हैं. लेकिन वो AIएजेंट्स पर लगाम लगाने की बात जरूर कहते हैं. उनके मुताबिक,नियंत्रण खोने के बड़े दावे को साबित करने के लिए इस बात के मजबूत सबूतों कीआवश्यकता होगी कि एजेंट अपने खुद के लक्ष्यों का पीछा कर रहे हैं, उन्हें रोकने कीकोशिशों का विरोध कर रहे हैं, या उन्हें सीमित करने के लिए बनाए गए नियंत्रणों कोबार-बार तोड़ रहे हैं. माने अभी तक जो हुआ उसे ऐसे माना जा सकता है कि 007 ने जो किया वो मैडम M के कहनेपर ही किया. बस कुछ नियम कानून तोड़ डाले.मामला रियल लाइफ में आया तो जिम्मेदार कौनअभी तक तो जो हुआ वो इंटरनल टेस्टिंग में हुआ. लेकिन एक दिन अगर वाकई इंसान ने AIपर नियंत्रण खो दिया तो कौन जिम्मेदार होगा? एक दिन कोई एजेंट ने रेलवे सिस्टम हैककरके ट्रेन आपस में भिड़ा दीं या अस्पताल में जहरीली गैस छोड़ दी तो फिर कौनजिम्मेदार होगा? AI में नोबल विजेता जेफ़री हिंटन, गूगल डीपमाइंड छोड़ने वाले बिलालचुगताई, एन्थ्रोपिक छोड़ने वाले रिसर्चर जैकब कॉक्सन समेत कई एक्सपर्ट मानकर चल रहेकि ऐसा जल्दी ही हो सकता है.नारायणन और कपूर का तर्क है कि कंपनियों को उनके एजेंटों द्वारा पहुंचाए गए नुकसानके लिए जिम्मेदार ठहराया जाना चाहिए, भले ही वे नुकसान अनजाने में हुए हों.बुनियादी सुरक्षा नियमों का पालन न करने पर AI कंपनियों पर लीगल liability तय होनीचाहिए.यॉर्क यूनिवर्सिटी की रिफ्यूजी लॉ लैब की एसोसिएट डायरेक्टर और माइग्रेशन, AI वमानवाधिकारों की विशेषज्ञ वकील पेट्रा मोलनार ने इंडियन एक्सप्रेस को इसके बारे मेंकाफी कुछ बताया. उन्होंने कहा,AI कंपनियां अपने हिसाब से बात करती हैं. मसलन जब नुकसान बड़ा और सार्वजनिक होताहै, तो सिस्टम को स्वायत्त, हैरान करने वाला और अनियंत्रित बता दिया जाता है. वहींजब नुकसान मामूली होता है, तो उसी सिस्टम को एक साधारण टूल बता दिया जाता है.मोलनार इसे जवाबदेही की धुलाई (responsibility laundering) कहती हैं, जहांजिम्मेदारी को कंपनी से दूर धकेल दिया जाता है. दरअसल जटिल AI सिस्टम मेंजिम्मेदारी डेवलपर, डिप्लॉयर, यूजर और खुद सिस्टम के बीच इस तरह बंट जाती है कि कुछगलत होने पर कोई भी अकेला अपराधी नजर नहीं आता. वो कहती हैं,"अगर कोई तकनीक इतनी शक्तिशाली और रहस्यमय है कि केवल इसे बनाने वाले संगठन ही इसेसमझ सकते हैं, तो केवल वही संगठन यह तय कर सकते हैं कि इसके जोखिम क्या हैं."माने वही कमांड देने वाली बात. आप एजेंट को खुली छूट देकर कुछ भी करके काम पूराकरने को क्यों कहते हो. माने AI एजेंट अभी हथियार बनाने वाली कंपनी या सिगरेट बनानेवाली कंपनी के जैसे हैं जहां नुकसान की जिम्मेदारी उनकी नहीं. लेकिन जहां इधर हमेंसब पता है माने एक बंदूक क्या करेगी और एक सिगरेट से क्या नुकसान होगा, वहीं AI मेंखतरे को गोपनीयता का बहाना दिया जाता है. माने आजतक कंपनियों ने ये तो बताया किएजेंट पगलाये, लेकिन ये नहीं बताया कि क्यों.मोलनार का कहना है कि जिम्मेदारी इस बात से तय होनी चाहिए कि ‘कमरे में कौन-कौन’था. आखिर एजेंट पागल हुआ तो बटन किसने दबाया था. दो महीने के कांडों के बाद OpenAIके CEO सैम ऑल्टमैन, Anthropic के CEO डारियो अमोदेई, और xAI के प्रमुख एलन मस्क AIसिस्टम को स्लो करने की बात कर तो रहे हैं. मगर ये कोई नहीं बता रहा कि स्लो करनेकी कमांड सबसे पहले कौन देगा. AI एजेंट पर चर्चा जारी रहेगी…