बढ़ते तकनीक के दौर में AI ने कई रास्ते आसान किये हैं तो कई चुनौतियों को भी बढ़ाया है. सबसे बड़ी चुनौती ये कि इसने फेक न्यूज का प्रारुप बदल दिया. अब यह फोटोशॉप और वीडियो एडिटिंग से काफी आगे निकल गया है. AI को बस कुछ फोटो और ऑडियो का नमूना देना है. फिर जैसा चाहें वैसा वीडियो किसी की भी असली शक्ल-सूरत और आवाज में बन कर तैयार हो जायेगा. ऐसे वीडियोज़ को कहते हैं डीपफेक वीडियोज़. और इन्हीं को आधार बना कर केन्द्र सरकार एक नया आदेश पारित करने पर विचार कर रही है. इसके तहत सरकार मेटा को किसी मैसेज के सबसे पहले सेंडर की पहचान बतानी होगी. मेटा, वॉट्सऐप की पैरेंट कंपनी है.

इंडियन एक्सप्रेस पर छपी एक खबर के मुताबिक सरकार WhatsApp को IT Rules, 2021 के तहत एक आदेश भेजने की तैयारी में है. इसके बाद सोशल मीडिया साइट को उस व्यक्ति की पहचान बतानी होगी जिसने किसी वीडियो को WhatsApp पर सबसे पहले शेयर किया होगा. अखबार ने एक सरकारी अधिकारी के हवाले से लिखा है कि कई दलों के नेताओं के डीपफेक वीडियोज सोशल मीडिया पर फैल रहे हैं. जिससे सरकार को लगता है कि यह चुनावी अखंडता को प्रभावित कर सकता है. इसलिए सरकार वॉट्सऐप को 'First Originator' नोटिस भेजने की योजना बना रही है.

क्या होता है डीपफेक?

डीपफेक एक ऐसी तकनीक है जिसमें किसी व्यक्ति के चेहरे के हावभाव के फेक वीडियोज AI की मदद से बनाये जा सकते हैं. हाल ही में इसी तकनीक से बनाए गए AI एंकर्स भी चर्चा में रहे हैं. हालांकि इससे फेक न्यूज फैलने की संभावना भी बढ़ रही है. बीते दिनों सोशल मिडिया पर यूट्यूबर MrBeast और बीबीसी के दो एंकर्स के डीपफेक वीडियो बना कर धोखाधड़ी का प्रयास किया गया था. 

क्या कहते हैं नियम?

Information Technology Rules, 2021 के सेक्शन 4(2) में इस बात का जिक्र है कि मैसेंजर सर्विस देने वाले किसी भी सोशल मिडिया प्लेटफॉर्म को मैसेज के First Originator की जानकारी देनी होगी. इसी पैराग्राफ में ये भी लिखा है कि ऐसा न्यायालय या IT Rules, 2009 के सेक्शन 69 के तहत जारी किये गए आदेश पर करना होगा. हालांकि, ऐसा पहली बार होगा जब केंद्र सरकार किसी इंसटेंट मैसेजिंग प्लेटफॉर्म को इस नियम के तहत कोई आदेश भेजेगी. 

हालांकि, वॉट्सऐप और फेसबुक ने 2021 में इस प्रोविजन को दिल्ली हाईकोर्ट में चैलेंज किया था. वॉट्सऐप ने इसे अपने 'end-to-end encryption' सिस्टम के लिए खतरा बताया था. साथ ही यह भी कहा गया था कि सरकार के इस हस्तक्षेप से Mass Surveillance को बढ़ावा मिलेगा. मामला फिलहाल कोर्ट में विचाराधीन है. वॉट्सऐप का end-to-end encryption सिस्टम यूजर की प्राइवेसी को ध्यान में रखकर बनाया गया है. कंपनी ऐसा दावा करती रही है कि इस फिचर के कारण यूजर्स के अलावा उनके मैसेज को कोई और नहीं देख सकता. यहां तक की वॉट्सऐप खुद भी नहीं.

इस मामले पर इलेक्ट्रॉनिक्स और आईटी राज्य मंत्री राजीव चंद्रशेखर ने इंडियन एक्सप्रेस को बताया है कि "फेक वीडियोज और फेक ऑडियोज को फैलाने के लिए मैसेंजिग प्लेटफॉर्म्स का इस्तेमाल किया जा रहा है. इससे निपटने के लिए इस तरह के प्रावधान को लाने की आवश्यकता है."

वीडियो: दी लल्लनटॉप शो: व्हाट्सएप, फ़ेसबुक और इंस्टाग्राम पर बिना सोचे मैसेज फॉर्वर्ड करने वाले सावधान हो जाएं