'भाई ये AI है' वाले कॉमेंट करने की जरूरत नहीं, फेसबुक-इंस्टाग्राम खुद ही बताएंगे

सिंथेटिक कॉन्टेंट को परिभाषित किया गया

सरकार ने अब सिंथेटिक कॉन्टेंट की परिभाषा स्पष्ट कर दी है. इसका मतलब ऐसे वीडियो, फोटो और विजुअल्स से है जो कंप्यूटर या एल्गोरिदम से बनाए गए हों और देखने में बिल्कुल असली लगें. हालांकि नॉर्मल एडिटिंग, कलर करेक्शन, ट्रांसलेशन या डॉक्यूमेंट तैयार करना इसके दायरे में नहीं आएगा.

सभी AI ऑडियो-वीडियो पर लेबल जरूरी

नए नियमों के मुताबिक, सोशल मीडिया प्लेटफॉर्म्स को ऐसे टूल्स का इस्तेमाल करना होगा जो AI से बने कॉन्टेंट की पहचान कर सकें. ऐसे कॉन्टेंट पर प्रॉमिनेंट लेबल लगाना होगा. इसके साथ एक डिजिटल पहचान या मेटाडेटा जोड़ना होगा जिसे हटाया ना जा सके. ये लेबल विजुअल में कम से कम 10 प्रतिशत एरिया कवर करेगा. वहीं ऑडियो में पहले 10 प्रतिशत समय में सुनाई देगा.

सरकार ने कुछ खास तरह के कॉन्टेंट को लेकर खासी सख्ती बरती है. बच्चों से जुड़े यौन शोषण वाले कॉन्टेंट, बना सहमति के ली गई निजी तस्वीरें और वीडियो, फर्जी दस्तावेज, हथियार या हिंसा दिखाने वाला कॉन्टेंट और किसी व्यक्ति या घटना के डीपफेक वीडियो को प्लेटफॉर्म्स को तुरंत हटाना या ब्लॉक करना होगा. इसमें लापरवाही बरतने पर कंपनियों के खिलाफ कार्रवाई हो सकती है.

तीन घंटे के भीतर हटाना होगा AI जेनरेटेड कॉन्टेंट

अब सोशल मीडिया प्लेटफॉर्म्स को AI से बने गलत या गैरकानूनी कॉन्टेंट को तीन घंटे के भीतर हटाना होगा. पहले यह समय सीमा 36 घंटे थी. यानी अगर किसी प्लेटफॉर्म को पता चलता है कि कोई डीपफेक वीडियो, फर्जी डॉक्यूमेंट या भड़काऊ AI कॉन्टेंट फैला रहा है तो उसे तीन घंटे के भीतर एक्शन लेना होगा.

IT मिनिस्ट्री की गाइडलाइंस के मुताबिक, सोशल मीडिया कंपनियों को हर तीन महीने में यूजर्स को इन नियमों की जानकारी देनी होगी. यूजर्स को बताया जाएगा कि AI से बने गैरकानूनी या आपत्तिजनक कॉन्टेंट शेयर करने पर IT एक्ट, नए क्रिमिनल कानून, POSCO और दूसरे कानूनों के तहत कार्रवाई हो सकती है.

सोशल मीडिया कंपनियों की जिम्मेदारी बढ़ेगी

अब सोशल मीडिया कंपनियों की जिम्मेदारी भी बढ़ गई है. यूजर्स जब कोई पोस्ट डालेगा तो उन्हें बताना होगा कि कॉन्टेंट AI से बना है या नहीं. लेकिन प्लेटफॉर्म्स सिर्फ यूजर के भरोसे पर नहीं रह सकते. उनको यह भी चेक करना होगा कि यूजर सच बोल रहा है या नहीं. अगर कोई भी प्लेटफॉर्म नियमों का पालन नहीं करता तो उसकी कानूनी सुरक्षा खत्म हो सकती है.

वीडियो: सोशल लिस्ट: Instagram के वायरल वीडियोज पर AI मॉडल्स का कब्ज़ा, इन्हें फॉलो करने वाले लाखों लोग कौन?