AI से बदल डाली यूट्यूबर की पहचान, विदेशी भाषा बोलती दिखी, ये फ्रॉड कभी सुना ना होगा!

ये देखकर ऐसा लगा जैसे मेरा ही चेहरा चीनी भाषा बोल रहा है. उन वीडियो में मैं क्रेमलिन और मॉस्को में बैठकर बता रही हूं कि रूस और चीन कितने महान हैं. ये सचमुच डरावना था. ऐसी बातें मैं असल जीवन में कभी नहीं कहूंगी.

ओल्गा की शक्ल का इस्तेमाल कर बनाए गए अकाउंट पर सैकड़ों-हजारों फॉलोवर्स हैं. अकाउंट पर कैंडी जैसे प्रोडक्ट्स की बिक्री भी की जाती है. कुछ पोस्ट में डिस्क्लेमर दिया गया है कि वो AI से तैयार की गई होंगी. 

एक्सपर्ट्स ने बताया कि ऐसी वीडियो ऑनलाइन मौजूद महिलाओं की क्लिप्स का दुरुपयोग कर AI से जनरेट की जाती हैं. नकली अवतार बनाकर वीडियो का इस्तेमाल चीनी पुरुषों को प्रोडक्ट बेचने के लिए किया जाता है. एडवांस AI डेवलप करने वाली कंपनी XMOV के CEO जिम चाई का कहना है कि ऐसी इमेज बनाने की तकनीक बहुत आम है क्योंकि चीन में कई लोग इसका इस्तेमाल करते हैं. बोले,

अपना खुद का 2D डिजिटल ह्यूमन बनाने के लिए मुझे बस अपना 30 मिनट का वीडियो शूट करना होगा. उससे मैं अपनी ही शक्ल के साथ दूसरा वीडियो बना सकता हूं.  ये बहुत रीयल दिखता है. अगर उसकी भाषा बदलनी है तो केवल लिप-सिंक को अडजस्ट करना होगा. 

ये भी पढ़ें- धोनी के साथी खिलाड़ी के साथ 'ऑनलाइन फ्रॉड', इस नामी कंपनी को सबके सामने सुनाया

चैट GPT जैसे जेनरेटिव AI सिस्टम की बढ़ती लोकप्रियता के बीच गलत जानकारी, फर्जी समाचार और कॉपीराइट मटेरियल में AI के इस्तेमाल को लेकर चिंताएं तेज होती जा रही हैं. जनवरी में चीन ने AI इंडस्ट्री को मानकीकृत करने के लिए ड्राफ्ट दिशानिर्देश जारी किए थे. इसी महीने यूरोपीय संघ का AI एक्ट भी लागू हुआ है जो कि हाई रिस्क वाले AI सिस्टम पर सख्त पारदर्शिता पर जोर देता है.

वीडियो: मास्टर क्लास: ChatGPT-4 तो आर्टिफिशियल इंटेलिजेंस में बवाल मचा देगा, तस्वीर देख सब कर देगा!