.webp?width=120){kind=logo}
.webp?width=35&height=35){kind=logo}
[1].webp?width=30&height=30){kind=small}
AI से बदल डाली यूट्यूबर की पहचान, विदेशी भाषा बोलती दिखी, ये फ्रॉड कभी सुना ना होगा!
21 साल की ओल्गा ने पिछले साल नवंबर में अपना यूट्यूब चैनल शुरू किया. कुछ समय बाद हूबहू उसके जैसी दिखने वाली एक महिला चीनी सोशल मीडिया पर छाई हुई मिली.
अमेरिका में पढ़ने वाली यूक्रेन की छात्रा एक अनोखे डिजिटल फ्रॉड का शिकार हुई. ऐसा फ्रॉड जहां AI के जरिए छात्रा की पहचान ही चुरा ली गई (AI converts Ukrainian Youtuber into Russian). उसकी डिजिटल हमशक्ल एक रूसी महिला है जो चीनी भाषा बोलती है. वो रूस-चीन के संबंधों को लेकर बात करती है और सोशल मीडिया पर बिजनेस भी करती है.
21 साल की ओल्गा लोइक पेंसिल्वेनिया यूनिवर्सिटी में पढ़ती है. ओल्गा ने पिछले साल नवंबर में अपना यूट्यूब चैनल शुरू किया. कई वीडियो अपलोड किए लेकिन कुछ खास ऑडियंस नहीं जुटा पाई. कुछ समय बाद हूबहू उसके जैसी दिखने वाली एक महिला चीनी सोशल मीडिया पर छाई हुई मिली. उसके ओल्गा से कई ज्यादा फॉलोअर्स थे. नाम था नताशा.
ओल्गा लोइक ने रॉयटर्स को बताया,
ये देखकर ऐसा लगा जैसे मेरा ही चेहरा चीनी भाषा बोल रहा है. उन वीडियो में मैं क्रेमलिन और मॉस्को में बैठकर बता रही हूं कि रूस और चीन कितने महान हैं. ये सचमुच डरावना था. ऐसी बातें मैं असल जीवन में कभी नहीं कहूंगी.
ओल्गा की शक्ल का इस्तेमाल कर बनाए गए अकाउंट पर सैकड़ों-हजारों फॉलोवर्स हैं. अकाउंट पर कैंडी जैसे प्रोडक्ट्स की बिक्री भी की जाती है. कुछ पोस्ट में डिस्क्लेमर दिया गया है कि वो AI से तैयार की गई होंगी.
एक्सपर्ट्स ने बताया कि ऐसी वीडियो ऑनलाइन मौजूद महिलाओं की क्लिप्स का दुरुपयोग कर AI से जनरेट की जाती हैं. नकली अवतार बनाकर वीडियो का इस्तेमाल चीनी पुरुषों को प्रोडक्ट बेचने के लिए किया जाता है. एडवांस AI डेवलप करने वाली कंपनी XMOV के CEO जिम चाई का कहना है कि ऐसी इमेज बनाने की तकनीक बहुत आम है क्योंकि चीन में कई लोग इसका इस्तेमाल करते हैं. बोले,
अपना खुद का 2D डिजिटल ह्यूमन बनाने के लिए मुझे बस अपना 30 मिनट का वीडियो शूट करना होगा. उससे मैं अपनी ही शक्ल के साथ दूसरा वीडियो बना सकता हूं. ये बहुत रीयल दिखता है. अगर उसकी भाषा बदलनी है तो केवल लिप-सिंक को अडजस्ट करना होगा.
ये भी पढ़ें- धोनी के साथी खिलाड़ी के साथ 'ऑनलाइन फ्रॉड', इस नामी कंपनी को सबके सामने सुनाया
चैट GPT जैसे जेनरेटिव AI सिस्टम की बढ़ती लोकप्रियता के बीच गलत जानकारी, फर्जी समाचार और कॉपीराइट मटेरियल में AI के इस्तेमाल को लेकर चिंताएं तेज होती जा रही हैं. जनवरी में चीन ने AI इंडस्ट्री को मानकीकृत करने के लिए ड्राफ्ट दिशानिर्देश जारी किए थे. इसी महीने यूरोपीय संघ का AI एक्ट भी लागू हुआ है जो कि हाई रिस्क वाले AI सिस्टम पर सख्त पारदर्शिता पर जोर देता है.
वीडियो: मास्टर क्लास: ChatGPT-4 तो आर्टिफिशियल इंटेलिजेंस में बवाल मचा देगा, तस्वीर देख सब कर देगा!
