AI की तारीफ करने वाले ये 3 मामले देख होश खो बैठेंगे, कितना बड़ा खतरा बन सकता है ये!

भारत में कुछ ऐसे मामले सामने आए हैं, जिनमें AI की मदद से अश्लील तस्वीरें बनाकर उन्हें अलग-अलग प्लेटफॉर्म पर वायरल किया गया. एक रिपोर्ट के अनुसार गुवाहाटी में कई लड़कियों ने शिकायत की कि उनकी अश्लील तस्वीरें ऑनलाइन बेची जा रही हैं. दरअसल ये तस्वीरें AI की डीप जेनेरेटिव टेक्नोलॉजी के जरिए बनाई गई थीं. ऐसे मामलों में AI के जरिए तस्वीरों के साथ छेड़छाड़ करके लड़कियों से पैसे मांगने या ब्लैकमेल करने की घटनाएं सामने आई हैं.    

अमेरिका, इंग्लैंड और जर्मनी जैसे देशों में AI का कुछ ऐसा प्रयोग देखा गया है, जो मां-बाप के लिए ट्रॉमा है. दरअसल, कुछ कंटेंट क्रिएटर AI के जरिए खत्म हो चुके या अगवा किए गए बच्चों की तस्वीरों से वीडियो बना लेते हैं और उसे टिक-टॉक जैसी सोशल साइट्स पर वायरल कर देते हैं. वे इन वीडियोज में बच्चों जैसी आवाज में उनके साथ घटी दर्दनाक घटनाओं की डिटेलिंग बताते हैं.

ये कुछ ऐसे केस हैं, जो मशहूर हुए, मीडिया में जिनके बारे में तरह-तरह की खबरें छपीं. उन्हीं खबरों के अधार पर ऐसी-वैसी मनगढ़त कहानी AI के जरिए उसी बच्चे की तस्वीर से कहलवाई जा रही है. नेशनल पोस्ट की एक रिपोर्ट के अनुसार, ऐसे ही एक केस में जेम्स बल्गर नाम के बच्चे की कहानी सुनवाई जा रही है. ये 2 साल का ब्रिटिश बच्चा था. जिसकी 1993 में अगवा करके हत्या कर दी गई थी. बच्चा उस समय अगवा किया गया जब वह अपनी मां के साथ ग्रोसरी की दुकान के सामने था.

वीडियो में बच्चे जैसी अवाज में जेम्स बल्गर की तस्वीर कहती है कि-

अगर मेरी मां उस दिन दाहिनी तरफ मुड़ती, तो मैं जीवित होता. दुर्भाग्य से वह बाईं तरफ मुड़ी और मेरे साथ...

दरअसल जेम्स की मां ने एक बार किसी इंटरव्यू में यह बात कही थी कि उन्हें इस बात का सबसे बड़ा मलाल है कि अगर वो उस दिन दाईं तरफ मुड़तीं तो वो देख पाती कि दो 10 साल के बच्चे उसे लिए जा रहे हैं.

ऐसे ही कई वीडियो जर्मनी, अमेरिका और इंग्लैड में देखे जा रहे हैं. बच्चों के माता-पिताओं ने इसके खिलाफ टिक-टॉक और अन्य प्लेटफॉर्म से शिकायत भी की है. ये वीडियो बच्चों के मां-बाप के लिए बहुत बड़े ट्रॉमा की वजह बन रहे हैं.

तो कुल मिलाकर बात ऐसी है कि AI को लेकर जो डर और खतरे जताए जा रहे थे, वैसा ही कुछ होता दिख रहा है. इसका मतलब ये नहीं कि इस टेक्नॉलजी को खारिज कर दिया जाए, मगर निगरानी और नकेल तो जरूरी ही है. 

(ये स्टोरी हमारे साथी अनुराग अनंत ने की है)

वीडियो: सेहत: कोविड-19 के केसेस फिर से बढ़े, भारत में पाया गया नया स्ट्रेन 'ईरिस'