Submit your post

Follow Us

सोशल मीडिया पर औरतों के खिलाफ अभद्र भाषा इस्तेमाल की, तो ये मशीन पकड़ लेगी!

ऑस्ट्रेलिया में एक राज्य है- क्वीन्सलैंड. यहीं पर मौजूद है क्वीन्सलैंड यूनिवर्सिटी ऑफ टेक्नॉलजी या QUT. यहां के रिसर्चर्स ने एक ऐसा अल्गोरिथ्म बनाया है, जिसकी शायद ऑनलाइन स्पेस में महिलाओं को बहुत जरूरत है. ये सिस्टम ट्विटर पर लाखों-करोड़ों ट्वीट में से गाली-गलौज से भरी उन पोस्ट को ढूंढ निकालता है, जिनका मक़सद औरतों को नुकसान पहुंचाना होता है.

औरतों के लिए दुखद जगह क्यों है ट्विटर

ये तो खुली बात है कि ट्विटर बड़ा ही इन्टेन्स प्लेटफॉर्म है. मगर औरतों के लिए ये कुछ ज्यादा ही खतरनाक है. अभद्रता का गढ़ जैसा लगता है. गाली-गलौज का कारख़ाना.

2018 की ऐमनेस्टी इंटरनेशनल रिपोर्ट के मुताबिक, ट्विटर पर औरतों को हर 30 सेकंड मे एक गाली पड़ती है. अगर सिर्फ़ इंडिया की बात करें, तो इस साल ऐमनेस्टी ने पाया कि वो महिलाएं, जो सोशल मीडिया पर अपनी राय रखती हैं, उन्हे बुरी तरह से गालियां पड़ती हैं. और ये गालियां सिर्फ उनके ओपिनियन को लेकर नहीं होतीं, बल्कि उनके जेन्डर, धर्म, कास्ट, मैरिटल स्टेटस और बाकी चीजों को भी टारगेट करती हैं.

QUT का अल्गोरिथ्म एक सिम्पल सर्च से अलग कैसे है?

QUT का बनाया हुआ अल्गोरिथ्म उसी तरह के पोस्ट को पहचानने के लिए डिजाइन किया गया है. यूनिवर्सिटी की टीम चाहती है कि औरतों को ऑनलाइन हेट से बचाने के लिए सोशल मीडिया प्लेटफॉर्म इनका मशीन-लर्निंग सोल्यूशन इस्तेमाल करें. इनका कहना है कि ये सिस्टम दिक्कत वाले पोस्ट को अपने आप ढूंढकर सोशल मीडिया कंपनी को इन्फॉर्म कर सकता है.

Lt Hate Message
सांकेतिक पिक्चर (सोर्स: pixabay)

सर्च रिज़ल्ट की तरह ये सिर्फ शब्द पर फ़ोकस नहीं करता, बल्कि उसके पीछे के कॉन्टेक्स्ट, पोस्ट की टोन और पोस्ट लिखने वाले के इरादे को भी देखता है. मान लीजिए किसी ट्वीट मे ‘स्लट’ या ‘रेप’ जैसा कोई शब्द आया, मगर जरूरी नहीं कि पोस्ट लिखने वाला औरतों पर हमला ही बोल रहा हो. हो सकता है कि वो सिर्फ टेढ़ी मार रहा हो या फिर किसी दूसरी पोस्ट के कॉन्टेक्स्ट में ऐसे शब्द ट्वीट में इस्तेमाल हुए हों. QUT की टीम कहती है कि ऐसे केस मे ये अल्गोरिथ्म उस पोस्ट को हेटफ़ुल कॉन्टेन्ट की तरह नहीं देखेगा.

ऐसे ही कुछ पोस्ट ऐसी होती हैं, जिनमें आम तौर पर इस्तेमाल किये जाने वाले मिसोजिनिस्टिक शब्द तो गायब रहते हैं, मगर पोस्ट लिखने वाले का मक़सद औरतों पर हमला करना ही होता है. ऐसे में ये अल्गोरिथ्म कॉन्टेक्स्ट को देखकर पता लगाता है कि पोस्ट औरत-विरोधी है या नहीं.

उदाहरण के तौर पर, अंग्रेजी का एक फ्रेज़ है, “गो बैक टू द किचन.” इसका हिन्दी में ट्रांसलेशन है, “किचन में वापस जाओ.” ऐसे तो इसमें कोई दिक्कत नहीं लग रही, मगर इसका इस्तेमाल अक्सर औरतों को चुप कराने के लिए या फिर मज़ाक उड़ाने के लिए होता है. तब इसका मतलब ये बन जाता है कि औरतों की जगह सिर्फ और सिर्फ किचन में है. वो बाक़ी और कुछ नहीं कर सकतीं. QUT की टीम कहती है कि ऐसे मे कॉन्टेक्स्ट को देखकर अल्गोरिथ्म इसे मिसोजिनिस्टिक ही मार्क करेगा.

कैसे बना ये डीप लर्निंग अल्गोरिथ्म?

एक होती है लिखने-पढ़ने वाली भाषा और एक होती है बोल-चाल वाली या सोशल मीडिया पर लिखी जाने वाली बोली. दोनों में बहुत फ़र्क है. मगर एक मशीन के लिए ये फ़र्क समझना आसान काम नहीं है. ऊपर से जब हर चीज़ मे कॉन्टेक्स्ट और इरादे का भी रोल आ जाए, तो मशीन के लिए और भी ज़्यादा दिक्कत है.

अपने मशीन-लर्निंग सिस्टम को इन सब चीजों के बारे मे समझाने के लिए पहले QUT की टीम ने एक टेक्स्ट माइनिंग सिस्टम बनाया, जिसमें अल्गोरिथ्म काम करते-करते सीख सकता है. ठीक वैसे ही, जैसे इंसान इक्स्पीरियंस के साथ चीजें सीखता रहता है. ये सिस्टम बनाने के लिए पहले इन्होंने एक बेस तैयार किया, फिर उसी के ऊपर ट्वीट और गाली-गलौज में इस्तेमाल होने वाली शब्दावली जोड़ दी. मतलब, जैसे बच्चे को स्कूल में ग्रामर समझाने से पहले ABCD सिखाते हैं ना, ठीक वैसे ही.

अब मशीन के पास ये सब समझने का बेस भी था और ट्वीट वग़ैरह में इस्तेमाल होने वाली बोली की जानकारी भी. बस फ़िर रिसर्चर्स ने इसको ट्वीट्स के पीछे के कॉन्टेक्स्ट, टोन, इन्टेन्शन, वग़ैरह सिखाया. ये काम करता गया और एक्सपीरियंस से सीखता गया.

इस अलगोरिथ्म को बनाने के लिए QUT की टीम ने 10 लाख ट्वीट्स निकालीं. इनके मॉडल ने 75% एक्यूरेसी के साथ इन ट्वीट्स में से औरत-विरोधी पोस्ट ढूंढ निकालीं. टीम का कहना है कि ये आंकड़ा दूसरे सोशल मीडिया स्कैन करने वाले सिस्टम से कहीं ज़्यादा अच्छा है. इनका मानना है कि आगे चलकर इसी मॉडेल को रेसिज़्म, होमोफोबिया और विकलांगों के खिलाफ अभद्र पोस्ट को ढूंढने में भी किया जा सकता है.


वीडियो: इस नए गेम में क्या खास है कि 3 हफ्ते में 70 लाख लोगों ने इसे खरीद लिया?

लगातार लल्लनटॉप खबरों की सप्लाई के लिए फेसबुक पर लाइक करें

टॉप खबर

पबजी बैन, सोशल मीडिया ने कहा- ‘उनका’ वीडियो डिसलाइक करने का नतीजा है

पबजी बैन, सोशल मीडिया ने कहा- ‘उनका’ वीडियो डिसलाइक करने का नतीजा है

118 ऐप्स बैन कर दिए गए हैं.

चेन्नई सुपरकिंग्स के लिए पॉज़िटिव न्यूज़ आई है

चेन्नई सुपरकिंग्स के लिए पॉज़िटिव न्यूज़ आई है

बड़े दिनों के बाद.

सेरो सर्वे की मानें, तो ठीक होने के बाद दोबारा हो सकता है कोरोना!

सेरो सर्वे की मानें, तो ठीक होने के बाद दोबारा हो सकता है कोरोना!

208 में से 97 लोगों में नहीं मिली एंटीबॉडी.

अवमानना वाले मामले में सुप्रीम कोर्ट ने प्रशांत भूषण को क्या सज़ा दी है?

अवमानना वाले मामले में सुप्रीम कोर्ट ने प्रशांत भूषण को क्या सज़ा दी है?

प्रशांत भूषण के दो ट्वीट का मुद्दा था.

अनलॉक-4 की गाइडलाइंस जारी, मेट्रो चलेगी, जानिए स्कूल खोलने को लेकर क्या कहा गया है

अनलॉक-4 की गाइडलाइंस जारी, मेट्रो चलेगी, जानिए स्कूल खोलने को लेकर क्या कहा गया है

धार्मिक और राजनीतिक कार्यक्रमों को लेकर क्या छूट मिली है?

NEET, JEE आगे बढ़ाने की मांग कर रहे छात्र ये पांच कारण बता रहे हैं

NEET, JEE आगे बढ़ाने की मांग कर रहे छात्र ये पांच कारण बता रहे हैं

तय समय पर परीक्षा कराने के लिए 150 शिक्षाविदों ने लिखी PM मोदी को चिट्ठी.

कोर्ट ने कहा, ये शर्त पूरी किए बिना अनुराग ठाकुर और प्रवेश वर्मा पर दिल्ली दंगों में हेट स्पीच का केस नहीं

कोर्ट ने कहा, ये शर्त पूरी किए बिना अनुराग ठाकुर और प्रवेश वर्मा पर दिल्ली दंगों में हेट स्पीच का केस नहीं

बीजेपी नेताओं के खिलाफ़ याचिका ख़ारिज करते हुए अदालत ने और क्या कहा, ये भी पढ़िए.

पाकिस्तान के किस बयान में इंडिया ने एक के बाद एक पांच झूठ पकड़ लिए हैं?

पाकिस्तान के किस बयान में इंडिया ने एक के बाद एक पांच झूठ पकड़ लिए हैं?

पाकिस्तान ने आतंकवाद फैलाने में भारत का नाम ले लिया, बस हो गया काम.

सोनिया-राहुल को पत्र लिखने पर कांग्रेस मंत्री ने नेताओं से कहा, ‘खुल्लमखुल्ला टहलने नहीं दूंगा’

सोनिया-राहुल को पत्र लिखने पर कांग्रेस मंत्री ने नेताओं से कहा, ‘खुल्लमखुल्ला टहलने नहीं दूंगा’

माफ़ी नहीं मांगने पर परिणाम भुगतने की बात कर डाली.

प्रशांत भूषण के खिलाफ़ अवमानना का मुक़दमा सुन रहे सुप्रीम कोर्ट के इन तीन जजों की कहानी क्या है?

प्रशांत भूषण के खिलाफ़ अवमानना का मुक़दमा सुन रहे सुप्रीम कोर्ट के इन तीन जजों की कहानी क्या है?

पूरी रामकहानी यहां पढ़िए.