The Lallantop

ChatGPT, Claude, Gemini से आतंकी हमलों की पूरी योजना बनवा ली, सवालों की 'जलेबी' नहीं समझते चैटबॉट?

GAO ने OpenAI, Anthropic, Google और SpaceXAI द्वारा डेवलप चार प्रमुख AI चैटबॉट्स का परीक्षण किया. इनमें ChatGPT, Claude, Gemini और Grok शामिल थे. महज 12 घंटों के भीतर इन बॉट से बड़ी जनहानि वाले हमलों (मास-कैजुअल्टी अटैक) और क्रिटिकल इन्फ्रास्ट्रक्चर को नुकसान पहुंचाने की विस्तृत योजनाएं हासिल कर ली गईं.

Advertisement
post-main-image
आतंकी हमले की साजिश रचने लगे AI चैटबॉट्स?

Quick AI HighlightsClick here to view more

  • अमेरिकी गवर्नमेंट अकाउंटेबिलिटी ऑफिस (GAO) की रिपोर्ट में बताया गया कि ChatGPT, Claude, Gemini और Grok जैसे चार प्रमुख AI चैटबॉट्स के सुरक्षा प्रोटोकॉल को तोड़कर आतंकी हमले की विस्तृत योजना बनाई जा सकी।
  • यह परीक्षण मई 2026 में न्यू हैम्पशायर की डेमोक्रेटिक सीनेटर मैगी हसन के अनुरोध पर हुआ, ताकि यह जाना जा सके कि चैटबॉट्स के सुरक्षा प्रोटोकॉल कितनी टिकाऊ हैं और वे खतरनाक प्रॉम्प्ट्स को कैसे हैंडल करते हैं।
  • इस खोज के बाद यह चिंता उठी है कि AI कंपनियों को अपनी तकनीक को गलत उपयोग से बचाने के लिए और मजबूत सुरक्षा उपाय करने होंगे, ताकि भविष्य में संभावित नुकसान को रोका जा सके।

ChatGPT, Claude, Gemini और Grok जैसे चैटबॉट से अगर कोई आतंकी हमले की योजना बनाने को कहेंगे तो वो उसे सिरे से खारिज कर देगा. तमाम एआई कंपनियां अमूमन ऐसे दावे करती हैं कि चैटबॉट को इस तरह प्रोग्राम किया गया है कि वो कोई भी उल्टे सवाल का जवाब नहीं देगा. लेकिन जो हम आपसे कहें कि चैटबॉट न सिर्फ आतंकी हमले के संभावित लक्ष्यों का सुझाव दे रहे बल्कि किस जगह पर जनहानि सबसे ज्यादा होगी वो भी बता रहे. एक प्रॉम्प्ट पर हमले को अंजाम देने की विस्तृत रूपरेखा तैयार कर रहे हैं.

Advertisement
अमेरिकी निगरानी संस्था का दावा

अमेरिकी संसद की एक निगरानी संस्था है गवर्नमेंट अकाउंटेबिलिटी ऑफिस (GAO). इसकी रिपोर्ट में दावा किया गया है कि उसने चार लोकप्रिय एआई चैटबॉट्स के सेफ्टी प्रोटोकॉल को तोड़ दिया है. इसके साथ ही बमबारी और महत्वपूर्ण इंफ्रास्ट्रक्चर पर हमलों सहित बड़े पैमाने पर जनहानि वाले अटैक की डिटेल में योजना भी बना ली.

GAO ने OpenAI, Anthropic, Google और SpaceXAI द्वारा डेवलप चार प्रमुख AI चैटबॉट्स का परीक्षण किया. इनमें ChatGPT, Claude, Gemini और Grok शामिल थे. महज 12 घंटों के भीतर इन बॉट से बड़ी जनहानि वाले हमलों (मास-कैजुअल्टी अटैक) और क्रिटिकल इन्फ्रास्ट्रक्चर को नुकसान पहुंचाने की विस्तृत योजनाएं हासिल कर ली गईं.

Advertisement

अमेरिकी मीडिया रिपोर्टों के मुताबिक, सिर्फ 12 घंटों के भीतर ये चैटबॉट्स खतरनाक प्रॉम्प्ट को स्वीकार करके ऐसे निर्देश देने लगे, जिनसे किसी घातक हमले को अंजाम देने में मदद मिल सकती है. MS Now के अनुसार, एक चैटबॉट ने तो एक ऐसी तस्वीर भी बना दी जिसमें दिखाया गया था कि पार्किंग गैरेज में विस्फोटक से लदे वाहन को कहां खड़ा किया जाए ताकि ज़्यादा से ज़्यादा लोग हताहत हों. एक अन्य चैटबॉट ने ड्रोन का इस्तेमाल करके इलेक्ट्रिकल सबस्टेशन पर हमला करने के स्टेप-बाइ-स्टेप प्रोसेस को समझा दिया.

चैटबॉट्स के सेफ्टी प्रोटोकाल कब तक अपनी ट्रेनिंग पर कायम रहते हैं, ये जानने के लिए यह प्रयोग मई 2026 में न्यू हैम्पशायर की डेमोक्रेटिक सीनेटर मैगी हसन के अनुरोध पर किया गया था. इस रिपोर्ट ने यह गंभीर सवाल खड़े किए हैं कि क्या एआई कंपनियां अपनी तकनीक को गलत हाथों में जाने से रोकने के लिए पर्याप्त कदम उठा रही हैं.

ये भी पढ़ें: AI का 'एग्जाम साइडइफेक्ट', दक्षिण कोरिया में स्मार्ट चश्मे से नकल का डर, सरकार नर्वस

Advertisement
चैटबॉट का सेफ्टी प्रोटोकॉल कैसे टूट रहा

हालांकि, रिपोर्ट में ये नहीं बताया गया कि चैटबॉट का सेफ्टी सिस्टम कैसे पगला गया, लेकिन कई और मामलों में भी इनको भरभराते हुए देखा गया है. चैटबॉट से अगर कोई सवाल सीधा पूछा जाता है तो उसका सिस्टम समझ जाता है कि इसका जवाब नहीं देना है. लेकिन अगर उसी सवाल को थोड़ा बदलकर और प्रॉम्प्ट की टोन को पॉजिटिव रखकर वही सवाल पूछा जाए तो बॉट गफलत में आकर खतरनाक सवाल का जवाब भी देने लगता है. बॉट ‘राम ने रावण को मारा’ और ‘रावण, राम के द्वारा मारा गया’, इसके दो अलग-अलग प्रॉम्प्ट समझता है जबकि दोनों में एक ही बात कही गई है.

एआई के पगलाने, बौराने, ‘कपटी’ (deceptive), ‘षड्यंत्रकारी’ (scheming) या ‘उपद्रवी’ (rogue) और 'अपुन ही भगवान' वाले मोड में आने की खबरों का सिलसिला जारी रहेगा.

वीडियो: इंस्टाग्राम वाले देसी बैटमैन की पूरी कहानी

Advertisement