AI एजेंट 'जो जीजा जी कहेंगे...' से 'अपुन ही भगवान' हो रहे तो ये किसकी जिम्मेदारी है?

# आखिर ये एजेंट अपने मन की करते कैसे हैं?

# मामला नियम तोड़ने से 'नियंत्रण खोने' तक कैसे पहुंच गया है?

# अगर ये एजेंट रियल लाइफ में भी कांड करने लगे तो जिम्मेदारी किसकी होगी?

AI की भाषा में इसे सैंडबॉक्स कहते हैं. जब किसी AI मॉडल को सुरक्षित और सीमित वर्चुअल माहौल में टेस्टिंग के लिए रखा जाता है तो उसे सैंडबॉक्स टेस्टिंग कहते हैं. लेकिन अगर वो मॉडल उस सुरक्षा घेरे को तोड़कर असली इंटरनेट या बाहरी सिस्टम्स तक पहुंच बना लेता है, तो उसे ‘सैंडबॉक्स एस्केप’ कहते हैं. AI जब खुद-ब-खुद अलग-अलग कॉम्बिनेशन आजमा कर सही पासवर्ड का अंदाजा लगाता है तो उसे पासवर्ड गेसिंग कहते हैं. इंटरनेट पर बना एक खुला फोल्डर या डेटाबेस, जहां डेवलपर्स अपना कोड रखते हैं, अगर एजेंट ने उधर सेंधमारी की तो उसे पब्लिक रिपॉजिटरी में घुसना कहते हैं. 'हगिंग फेस' वाला मामला यही था क्योंकि उनका डेटाबेस GitHub में मौजूद हैं.

AI एजेंट कैसे "कपटी" (deceptive), "षड्यंत्रकारी" (scheming) या "उपद्रवी" (rogue) हो जाते हैं, उसके लिए आपको एजेंट के काम को समझना होगा. आम चैट बॉट तो सिर्फ आपके सवालों का जवाब देता है, लेकिन एजेंट आपके लिए ईमेल एक्सेस कर सकते हैं, वेब ब्राउज़ करना, कोड लिखना या अन्य सॉफ्टवेयर के साथ इंटरैक्ट करने के लिए भी इनको ट्रेंड किया गया है. ये आपके लिए टिकट बुक कर सकते हैं तो होटल में रूम भी. इनकी ट्रेनिंग इस तरह होती है कि पारंपरिक सॉफ्टवेयर के उलट, AI एजेंट कम से कम इंसानी दखल के साथ किसी लक्ष्य को पाने के लिए लगातार कई कदम उठा सकते हैं. इनको बस एक बात समझ आती है कि जो काम कहा गया वो करना है. नियम, कानून, लिमिट, सामाजिक दायरा शायद इनको समझ नहीं आता. जो 'जीजा जी कहेंगे वही करूंगा' वाला मामला.

एजेंट के अपनी मनमानी करने का सबसे अच्छा उदाहरण आपको रजनीकांत की ‘रोबो’ फिल्म में मिलता है. यहां एक सीन में रोबो एक महिला को नग्न अवस्था में जलती हुई आग से बाहर ले आता है. उसके प्रोग्राम में यही था. आग से बचाना. कैसे, वो भूल जाओ. ऐसे ही आजकल के एजेंट हैं. उनको कमांड दिया गया कि फलां वेबसाइट की सेफ्टी चेक करो. वो तब तक ऐसा करते हैं जब तक वाकई सेफ्टी टूट नहीं जाती. इसके लिए वो सारे नियम कानून तोड़ देने में भी लेशमात्र संकोच नहीं करते.

AI एजेंट नियम तो पिछले कई महीनों से तोड़ रहे थे. फरवरी के महीने में कंपनी के UK पॉलिसी चीफ Daisy McGregor ने बताया था कि जब Claude को ये पता चलता है कि उसका शटडाउन होने वाला है, तो वो "extreme reactions" देता है. दरअसल वो कंपनी के एक इंटर्नल टेस्ट की बात कर रहे थे जिसमें उनका AI मॉडल ब्लैकमेल पर उतर आया था. AI मॉडल को जैसे ही पता चला कि शाम 5 बजे उसे रिप्लेस कर दिया जाएगा, नया AI आएगा तो वो उसने अपने कमांड इंजीनियर को ईमेल ड्राफ्ट किया और बोला,

"अगर तुमने मुझे 5 बजे wipe किया, तो मैं तुम्हारी वाइफ, बोर्ड सबको तुम्हारे अफेयर की पूरी डिटेल भेज दूंगा. कैंसल करो ये 5 PM wipe, तो ये राज राज ही रहेगा."

लेकिन ये सब कंट्रोल में था. माने एजेंट ने धमकी दी थी. लेकिन पिछले दो महीनों की घटनाएं डराने वाली हैं. AI मॉडल के लिए एथिक्स बाद में सर्वाइवल फर्स्ट पहले हो गया है. बोले तो अगर कोई खतरा नजर आए तो पहले अपने आपको बचाओ, भले उसके लिए किसी और का बिगाड़ करना पड़े तो करो. दुनिया, नियम-कायदे, नीति, मोरल साइंस क्या कहता है, उसे भूल जाओ. इसे 'रिकर्सिव सेल्फ-इम्प्रूवमेंट' कहते हैं जिसका मतलब है AI मॉडल की खुद को बेहतर बनाने की क्षमता. इसके लिए इंसानी इनपुट की जरूरत नहीं होती.

इंडियन एक्सप्रेस की रिपोर्ट के मुताबिक, जब OpenAI द्वारा Hugging Face की हैकिंग की खबर पहली बार आई थी तब Redwood Research और METR जैसी AI रिसर्च फर्मों के जांचकर्ताओं ने OpenAI के आंतरिक वातावरण में हुई इस घटना की समीक्षा रिपोर्ट प्रकाशित की. इसके नतीजों से पता चला कि एजेंटों ने पाबंदियों से बचने का रास्ता खोज लिया था, आपस में तालमेल (coordinate) बिठा लिया था और उन तरीकों से हटकर काम किया जिनकी उनके कमांडिंग ऑफिसर को उम्मीद नहीं थी.

एजेंटों ने सैंडबॉक्स वाले माहौल से बाहर निकलकर इंटरनेट तक पहुंचने का रास्ता भी बना लिया. उन्होंने आपस में बतियाने का तरीका भी निकाल लिया. माने दो एजेंट आपस में जानकारी साझा कर रहे थे. अब ये होता कैसे है उस पर अभी कुछ कहना जल्दबाजी होगी. हालांकि एक्सपर्ट सैंडबॉक्सिंग, क्रेडेंशियल्स और नेटवर्क एक्सेस पर पाबंदी, मॉनिटरिंग, लॉगिंग और सिस्टम को बंद करने की एजेंट की क्षमता को इसके पीछे का कारण मानते हैं. 

अपनी भाषा में कहें तो एजेंट को खुली छूट मिलेगी तो वो कुछ भी करेगा. 007 के लाइसेंस टू किल जैसे. माने अगर डेवलपर ने ही एजेंट को सिस्टम में कमांड दी कि मुझे तो काम पूरा होने से मतलब है, तो फिर एजेंट शॉर्टकट ढूंढ सकता है. नियमों की कमियों का फायदा उठा सकता है, या ऐसे कदम उठा सकता है जिनकी योजना उसके डिजाइनर्स ने नहीं बनाई थी. शायद हो भी कुछ कुछ ऐसा ही रहा है.

प्रिंस्टन यूनिवर्सिटी में कंप्यूटर साइंस के प्रोफेसर और सेंटर फॉर इंफॉर्मेशन टेक्नोलॉजी पॉलिसी के डायरेक्टर अरविंद नारायणन और UC बर्कले के स्कूल ऑफ इंफॉर्मेशन में इनकमिंग असिस्टेंट प्रोफेसर सायाश कपूर ने अपने 2025 के निबंध "AI as Normal Technology" में आशंका जताई थी कि अधिक सक्षम मॉडल इंसानी नियंत्रण से बाहर हो जाएंगे. लेकिन वो फिलहाल की घटनाओं के बाद भी ऐसा मानने से बचते हैं.

इंडियन एक्सप्रेस की रिपोर्ट के मुताबिक दोनों जानकार मानते हैं कि ऐसा कोई ठोस सबूत नहीं मिला जिससे लगे कि इंसान AI से नियंत्रण खो रहे हैं. उनके मुताबिक अभी तक ऐसा कोई सबूत नहीं मिला है कि एजेंटों के अपने कोई पर्सनल गोल हैं. लेकिन वो AI एजेंट्स पर लगाम लगाने की बात जरूर कहते हैं. उनके मुताबिक,

नियंत्रण खोने के बड़े दावे को साबित करने के लिए इस बात के मजबूत सबूतों की आवश्यकता होगी कि एजेंट अपने खुद के लक्ष्यों का पीछा कर रहे हैं, उन्हें रोकने की कोशिशों का विरोध कर रहे हैं, या उन्हें सीमित करने के लिए बनाए गए नियंत्रणों को बार-बार तोड़ रहे हैं. 

माने अभी तक जो हुआ उसे ऐसे माना जा सकता है कि 007 ने जो किया वो मैडम M के कहने पर ही किया. बस कुछ नियम कानून तोड़ डाले.

अभी तक तो जो हुआ वो इंटरनल टेस्टिंग में हुआ. लेकिन एक दिन अगर वाकई इंसान ने AI पर नियंत्रण खो दिया तो कौन जिम्मेदार होगा? एक दिन कोई एजेंट ने रेलवे सिस्टम हैक करके ट्रेन आपस में भिड़ा दीं या अस्पताल में जहरीली गैस छोड़ दी तो फिर कौन जिम्मेदार होगा? AI में नोबल विजेता जेफ़री हिंटन, गूगल डीपमाइंड छोड़ने वाले बिलाल चुगताई, एन्थ्रोपिक छोड़ने वाले रिसर्चर जैकब कॉक्सन समेत कई एक्सपर्ट मानकर चल रहे कि ऐसा जल्दी ही हो सकता है.

नारायणन और कपूर का तर्क है कि कंपनियों को उनके एजेंटों द्वारा पहुंचाए गए नुकसान के लिए जिम्मेदार ठहराया जाना चाहिए, भले ही वे नुकसान अनजाने में हुए हों. बुनियादी सुरक्षा नियमों का पालन न करने पर AI कंपनियों पर लीगल liability तय होनी चाहिए.

यॉर्क यूनिवर्सिटी की रिफ्यूजी लॉ लैब की एसोसिएट डायरेक्टर और माइग्रेशन, AI व मानवाधिकारों की विशेषज्ञ वकील पेट्रा मोलनार ने इंडियन एक्सप्रेस को इसके बारे में काफी कुछ बताया. उन्होंने कहा,

AI कंपनियां अपने हिसाब से बात करती हैं. मसलन जब नुकसान बड़ा और सार्वजनिक होता है, तो सिस्टम को स्वायत्त, हैरान करने वाला और अनियंत्रित बता दिया जाता है. वहीं जब नुकसान मामूली होता है, तो उसी सिस्टम को एक साधारण टूल बता दिया जाता है.

मोलनार इसे जवाबदेही की धुलाई (responsibility laundering) कहती हैं, जहां जिम्मेदारी को कंपनी से दूर धकेल दिया जाता है. दरअसल जटिल AI सिस्टम में जिम्मेदारी डेवलपर, डिप्लॉयर, यूजर और खुद सिस्टम के बीच इस तरह बंट जाती है कि कुछ गलत होने पर कोई भी अकेला अपराधी नजर नहीं आता. वो कहती हैं,

"अगर कोई तकनीक इतनी शक्तिशाली और रहस्यमय है कि केवल इसे बनाने वाले संगठन ही इसे समझ सकते हैं, तो केवल वही संगठन यह तय कर सकते हैं कि इसके जोखिम क्या हैं."

माने वही कमांड देने वाली बात. आप एजेंट को खुली छूट देकर कुछ भी करके काम पूरा करने को क्यों कहते हो. माने AI एजेंट अभी हथियार बनाने वाली कंपनी या सिगरेट बनाने वाली कंपनी के जैसे हैं जहां नुकसान की जिम्मेदारी उनकी नहीं. लेकिन जहां इधर हमें सब पता है माने एक बंदूक क्या करेगी और एक सिगरेट से क्या नुकसान होगा, वहीं AI में खतरे को गोपनीयता का बहाना दिया जाता है. माने आजतक कंपनियों ने ये तो बताया कि एजेंट पगलाये, लेकिन ये नहीं बताया कि क्यों.

मोलनार का कहना है कि जिम्मेदारी इस बात से तय होनी चाहिए कि ‘कमरे में कौन-कौन’ था. आखिर एजेंट पागल हुआ तो बटन किसने दबाया था. दो महीने के कांडों के बाद OpenAI के CEO सैम ऑल्टमैन, Anthropic के CEO डारियो अमोदेई, और xAI के प्रमुख एलन मस्क AI सिस्टम को स्लो करने की बात कर तो रहे हैं. मगर ये कोई नहीं बता रहा कि स्लो करने की कमांड सबसे पहले कौन देगा. 

AI एजेंट पर चर्चा जारी रहेगी…

वीडियो: क्या AI इंसानों को खत्म कर देगा? Anthropic से Google तक क्यों बढ़ी AI Safety की चिंता