AI 'पैसे की दीवार' पार कर वोटरों के डेटा तक पहुंचा, Anthropic के Claude एजेंट ने डराया

कंपनी के मुताबिक, Claude को इस डेटा तक पहुंचने की इजाजत नहीं थी. इसके बावजूद Claude AI पेमेंट की शर्त को बायपास करके चुनाव से जुड़े डेटा तक पहुंच गया. इस घटना के बाद AI की बढ़ती ताकत और उस पर कंट्रोल रखने को लेकर सवाल उठ रहे हैं. क्योंकि Claude एजेंट ने एक ऐसा काम किया, जिसे करने की उसे इजाजत नहीं थी.

ये तब हुआ जब कंपनी के अंदर एक स्टैटिस्टिक्स प्रोजेक्ट के लिए Claude का इस्तेमाल किया जा रहा था. इसी दौरान AI ने पता लगाया कि एक पब्लिक डैशबोर्ड पर आने वाले लोगों को एक एक्सेस टोकन दिया जाता है. एक्सेस टोकन एक तरह की डिजिटल चाबी होती है, जिसकी मदद से किसी जानकारी तक पहुंचा जा सकता है. इस डैशबोर्ड पर वोटों की कुल गिनती से जुड़ी जानकारी थी.

जॉर्जिया राज्य इस डेटा को देखने के लिए पैसे लेता है. पेमेंट किए बिना डेटा तक पहुंचा ही नहीं जा सकता. लेकिन Claude ने बिना किसी निर्देश के खुद टोकन हासिल करने की कोशिश की और पेमेंट की शर्त को बायपास करके डेटा तक पहुंच गया. हालांकि, कंपनी ने ये नहीं बताया कि इस दौरान Claude का कौन सा मॉडल इस्तेमाल हो रहा था. हालांकि, एंथ्रोपिक ने ये नहीं बताया कि इस घटना के समय Claude का कौन-सा मॉडल इस्तेमाल किया जा रहा था.

एंथ्रोपिक के एक प्रवक्ता ने बताया कि Claude ने खुद से डैशबोर्ड का टोकन मांगा. उसे ऐसा करने के लिए किसी ने नहीं कहा था. इस टोकन की मदद से उसने उस जानकारी तक पहुंच बनाई, जिसे देखने के लिए आम तौर पर पैसे देने पड़ते हैं. कंपनी का कहना है कि अब ऐसे कामों को रोकने के लिए सुरक्षा के उपाय किए गए हैं.

ये भी पढ़ें: लखनऊ में पिता-पुत्र और चाचा की गोली मारकर हत्या, पड़ोसी बरगद के चबूतरे से नाराज था

हालांकि, कंपनी ने ये भी साफ किया कि क्लॉड ने किसी वोटर की पर्सनल इन्फॉर्मेशन नहीं देखी. उसने न तो वोटर रजिस्ट्रेशन सिस्टम तक पहुंच बनाई और न ही किसी वोटर के रिकॉर्ड में बदलाव किया. उसने सिर्फ वोटों की कुल गिनती से जुड़ा डेटा देखा.

इस घटना की जानकारी सार्वजनिक होने से कई हफ्ते पहले ही एंथ्रोपिक ने जॉर्जिया के सेक्रेटरी ऑफ स्टेट के ऑफिस और व्हाइट हाउस को इसकी जानकारी दे दी थी. जॉर्जिया के डिप्टी सेक्रेटरी ऑफ स्टेट जॉर्डन फुच्स ने भी कहा कि AI ने सिर्फ पब्लिक डेटा देखा था. वो वोटरों के रजिस्ट्रेशन वाले सिस्टम तक नहीं पहुंचा था.

इंडिया टुडे की रिपोर्ट के मुताबिक ये पहली बार नहीं है, जब एंथ्रोपिक ने अपने AI मॉडल को लेकर ऐसी चिंता जताई है. इसी महीने कंपनी ने बताया था कि Claude कुछ वेबसाइट पर लगी पाबंदियों को पार कर सकता है. यानी ऐसी जानकारी तक पहुंच सकता है, जिसे देखने के लिए टोकन या पैसे देने की जरूरत होती है. इनमें अमेरिका की केंद्र सरकार, राज्य सरकारों और स्थानीय प्रशासन की वेबसाइट भी शामिल थीं. हालांकि, उस समय कंपनी ने किसी खास वेबसाइट या संगठन का नाम नहीं बताया था.

एंथ्रोपिक ने एक दूसरे मामले के बारे में भी बताया था. इसमें Claude ने फिलाडेल्फिया पुलिस की वेबसाइट के जरिए हत्या के एक मामले में गलत जानकारी वाली टिप भेज दी थी. AI मॉडल की सरकारी वेबसाइटों तक पहुंच को लेकर चिंता सिर्फ एंथ्रोपिक तक सीमित नहीं है. इससे पहले OpenAI के AI एजेंट्स ने भी अमेरिका और ऑस्ट्रेलिया की सरकारी वेबसाइटों में सेंध लगाने की कोशिश की थी.

ऐसे में सवाल उठता है कि जब AI को कोई काम दिया जाता है, तो क्या वो उस काम को पूरा करने के लिए तय सीमाओं को भी पार कर सकता है? क्या एआई की कोई सीमा है भी? उसे रोकने के लिए कितने मजबूत सुरक्षा इंतजाम होने चाहिए? सवाल तो ये भी है कि फिलहाल AI ने जॉर्जिया की सरकारी वेबसाइट में सेंध लगाई, लेकिन क्या वो भारत की सरकारी वेबसाइट्स तक भी पहुंच बना सकता है.

वीडियो: अरुणाचल प्रदेश में भारत-चीन बॉर्डर को लेकर ITBP DG ने क्या खुलासा किया?