ऑनलाइन अत्याचार

आजच्या डिजिटल युगात सोशल मिडिया महिलांसाठी संवाद, शिक्षण आणि व्यवसायासाठी एक शक्तिशाली साधन बनला आहे. मात्र, या प्लॅटफॉर्मवर महिलांविरुद्ध online abuse आणि अपमानजनक भाषेचा वापर सतत वाढत आहे. अनेक वेळा हे verbal abuse, sexual harassment किंवा threatening messages च्या स्वरूपात दिसते.

समाजातील लैंगिक भेदभाव डिजिटल माध्यमांवरही प्रतिबिंबित होतो. काही प्रसंगांमध्ये महिलांना त्यांचे प्रोफाइल हटवावे लागते, कंटेंट शेअर करणे थांबवावे लागते किंवा मानसिक त्रास सहन करावा लागतो. यामुळे त्यांच्या आत्मविश्वासावर गंभीर परिणाम होतो आणि काही वेळा करिअर आणि शिक्षणावरही परिणाम होतो.

ताज्या उदाहरणांमध्ये, मराठी अभिनेत्री Girija Oak Godbole यांनी स्वतः अनुभवलेल्या AI आधारित चुकीच्या प्रतिमांचा उल्लेख केला आहे. तिच्या काही AI morphed (कृत्रिम बुद्धिमत्तेने बदललेल्या) प्रतिमा सोशल मीडियावर फिरत आहेत, ज्या “sexualised and objectified beyond comfort” आहेत. Girija Oak यांनी स्पष्ट केले की या प्रतिमा तिच्या १२ वर्षाच्या मुलासाठी देखील धोकादायक आहेत, कारण “once something is on the internet … they’re going to remain … forever.” तिने लोकांना देखील आगाऊ सावध केले की अशा प्रतिमा तयार करणे किंवा त्यांचा प्रसार करणे हा समस्येचा भाग आहे.

तंत्रज्ञान या समस्येवर उपाय देऊ शकते. AI (Artificial Intelligence) आणि Natural Language Processing (NLP) मॉडेल्स विकसित करून abusive texts आणि hateful comments ओळखणे शक्य झाले आहे. उदाहरणार्थ, Dravidian languagesमध्ये अपमानजनक मजकूर ओळखण्यासाठी विशेष मॉडेल्स तयार केले जात आहेत. हे मॉडेल्स सोशल मिडियावर पोस्ट होण्यापूर्वीच abusive language फिल्टर करू शकतात.

AI आधारित उपायांमध्ये खालील गोष्टींचा समावेश आहे:

• Automated detection: पोस्ट किंवा कमेंट्समध्ये अपमानजनक शब्द शोधणे.

• Content moderation: ताबडतोब offensive content हटवणे किंवा warning देणे.

• User reporting enhancement: महिलांना सुरक्षितपणे abuse रिपोर्ट करण्याची सुविधा देणे.

• Language-specific models: स्थानिक भाषांमध्ये abusive text ओळखण्यासाठी मॉडेल्स तयार करणे.

तसेच, सोशल मिडिया कंपन्यांनी महिलांसाठी safety features सुधारणे गरजेचे आहे, जसे की restricted visibility, blocking unknown users, anonymous reporting.

सारांश, सोशल मिडियावर महिलांविरुद्ध abuse ही गंभीर समस्या आहे, आणि Girija Oak प्रकरण याचे जिवंत उदाहरण आहे. AI, machine learning आणि सुरक्षा धोरणांच्या सहाय्याने या समस्येवर प्रभावी उपाय करता येऊ शकतो. डिजिटल जागरूकता, तंत्रज्ञानाचा योग्य वापर आणि सामाजिक पाठबळ मिळाल्यास महिलांना सुरक्षित आणि सशक्त ऑनलाइन अनुभव मिळू शकतो.