Grok से कराए जा रहे गंदे काम, सरकार को X से कहना पड़ा- 'कानूनी सुरक्षा खत्म कर देंगे'

केंद्र सरकार ने एक्स के AI टूल Grok को लेकर उसे चेतावनी भरा पत्र लिखा है. इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) का कहना है कि ‘एक्स’ कानून द्वारा निर्धारित अपनी जिम्मेदारियों का पालन (due diligence) करने में फेल हो गया है. उसके AI आधारित सर्विस के जरिए अश्लील, न्यूड और सेक्सुअल कॉन्टेंट शेयर किए जा रहे हैं. 'एक्स' कॉर्प के भारत में ऑपरेशन के चीफ कंप्लायंस ऑफिसर को लिखे पत्र में मंत्रालय ने कहा कि प्लेटफॉर्म को अश्लील, बाल यौन शोषण (पैडोफिलिक) या कानून के तहत प्रतिबंधित कोई भी कॉन्टेंट होस्ट करने से रोकना चाहिए.

पत्र में चेतावनी दी गई है कि अगर X ने अपनी कानूनी जिम्मेदारियों का पालन नहीं किया तो उसे आईटी एक्ट की धारा 79 के तहत मिलने वाली कानूनी छूट यानी ‘सेफ हार्बर’ खत्म हो सकती है. इतना ही नहीं, उस पर आईटी एक्ट और भारतीय न्याय संहिता (BNS) समेत अन्य कानूनों के तहत कार्रवाई की जा सकती है.

‘सेफ हार्बर’ कानून का वो प्रावधान है, जिसकी वजह से ही फेसबुक या ट्विटर जैसे ऑनलाइन प्लेटफॉर्म को उनके यूजर्स द्वारा पोस्ट की गई सामग्री के लिए जवाबदेह नहीं ठहराया जाता.

मंत्रालय का ये आदेश उद्धव ठाकरे की शिवसेना की सांसद प्रियंका चतुर्वेदी की उस शिकायत के बाद आया है, जिसमें उन्होंने ग्रोक के जरिए महिलाओं की ‘गरिमा से खिलवाड़’ पर चिंता जताई थी. उन्होंने आईटी मंत्री अश्विनी चौबे को पत्र लिखा था कि X पर Grok AI का इस्तेमाल कर पुरुष फर्जी अकाउंट बनाकर महिलाओं की तस्वीरें पोस्ट कर रहे हैं और AI से ऐसे प्रॉम्प्ट दे रहे हैं जिससे उनकी तस्वीरों को कम कपड़ों में और अश्लील रूप में दिखाया जा सके. प्रियंका चतुर्वेदी ने यह भी कहा था कि Grok महिलाओं की निजता के अधिकार के उल्लंघन के विचार को बढ़ावा दे रहा है. यह न सिर्फ अनैतिक है बल्कि आपराधिक भी है.

ANI की रिपोर्ट के मुताबिक, इस पर संज्ञान लेते हुए IT मंत्रालय ने एक्स को कहा है कि वह अपने AI आधारित ऐप ‘Grok’ का तुरंत पूरा ऑडिट करे और यह देखे कि ऐप कैसे काम करता है. सवालों को कैसे समझता है. जवाब कैसे बनाता है. तस्वीरों को कैसे संभालता है और अश्लील या गैरकानूनी कॉन्टेंट रोकने के लिए सुरक्षा इंतजाम क्या हैंं. मंत्रालय का कहना है कि ये सुनिश्चित किया जाए कि Grok किसी भी तरह की Nudity, यौन शोषण, अश्लील या गैरकानूनी कॉन्टेंट न बनाए, न बढ़ावा दे और न ही इसे वायरल करे.

मंत्रालय ने X को अपनी यूजर टर्म्स और AI से जुड़े नियमों को सख्ती से लागू करने के लिए कहा है. साथ ही नियम तोड़ने वाले यूजर्स और अकाउंट्स के खिलाफ कड़े कदम उठाने का निर्देश दिया है. मंत्रालय ने यह भी कहा है कि जो भी कॉन्टेंट पहले से कानून का उल्लंघन कर चुके हैं, उसे बिना देरी किए हटाया जाए या उस तक पहुंच बंद की जाए. यह सब आईटी नियम 2021 में तय समय-सीमा के अंदर हो. साथ ही यह भी ध्यान रखा जाए कि ‘सबूत’ किसी तरह से खराब न हों. 

इसके अलावा, X कॉर्प से कहा गया कि वह मंत्रालय को एक ‘एक्शन टेकन रिपोर्ट (ATR)’ दे और यह रिपोर्ट चिट्ठी जारी करने के 72 घंटे के भीतर हर हाल में देनी होगी.

मंत्रालय ने ये भी बताया है कि रिपोर्ट में क्या होना चाहिए? इसके मुताबिक, एक्स कंपनी को बताना होगा कि Grok ऐप से जुड़ी कौन-कौन सी सुधारात्मक कार्रवाई की गई या की जाएगी. इसमें चीफ कंप्लायंस ऑफिसर की क्या भूमिका रही और उन्होंने कैसे निगरानी की? आपत्तिजनक कॉन्टेंट, यूजर्स और अकाउंट्स के खिलाफ क्या कार्रवाई हुई?

वीडियो: 'बैटल ऑफ गलवान' का टीजर देख चीनी मीडिया क्यों भड़क गई?