न्यूड डीपफेक और पूर्वाग्रह: नारीवादी एआई का उदय

वैश्विक - इख़बारी समाचार एजेंसी

न्यूड डीपफेक और पूर्वाग्रह: नारीवादी एआई का उदय

कृत्रिम बुद्धिमत्ता पर बढ़ती निर्भरता के इस युग में, लैंगिक पूर्वाग्रह और गैर-सहमति वाले न्यूड डीपफेक डिजिटल समानता और व्यक्तिगत सुरक्षा के लिए गंभीर खतरों के रूप में उभर रहे हैं। जबकि प्रौद्योगिकियां आश्चर्यजनक गति से आगे बढ़ रही हैं, उनके मौलिक दोष भी उजागर हो रहे हैं, जो उन डेटा में निहित हैं जिन पर इन प्रणालियों को प्रशिक्षित किया जाता है – ऐसे डेटा जो अक्सर असमानता से चिह्नित समाजों को दर्शाते हैं। यह वैश्विक चुनौती महत्वपूर्ण तकनीकी विकल्पों के उद्भव को बढ़ावा दे रही है, जैसे कि लैटिन अमेरिका और कैरेबियन का नारीवादी एआई नेटवर्क, जो एआई के भविष्य को नया आकार देना चाहता है।

तकनीकी साहित्य में कई उदाहरण लैंगिक पूर्वाग्रहों की गहराई को प्रदर्शित करते हैं। छवि पहचान प्रणालियों को महिलाओं, विशेष रूप से रंगीन महिलाओं की सटीक पहचान करने में कठिनाई हुई है, जिससे गलत पहचान हुई है जिसके गंभीर परिणाम हुए हैं, खासकर कानून प्रवर्तन संदर्भों में। वॉयस असिस्टेंट ने लंबे समय से विशेष रूप से महिला आवाज़ों का उपयोग किया है, जिससे यह रूढ़िवादिता मजबूत हुई है कि महिलाएं सेवा भूमिकाओं के लिए उपयुक्त हैं। छवि निर्माण में, एआई सिस्टम 'सीईओ' शब्द को पुरुषों के साथ जोड़ने की प्रवृत्ति रखते हैं, जबकि 'सहायक' की खोज करने पर महिला छवियां उत्पन्न करते हैं। ये उदाहरण केवल तकनीकी त्रुटियां नहीं हैं; वे मौजूदा सामाजिक पूर्वाग्रहों को दर्शाते और कायम रखते हैं।

विश्व आर्थिक मंच द्वारा जारी अनुमानों से पता चलता है कि विश्व स्तर पर एआई कार्यबल में महिलाओं का योगदान एक तिहाई से भी कम है, जो इन प्रौद्योगिकियों के विकास में उनके दृष्टिकोण के हाशिए पर जाने में सीधे योगदान देता है। एआई शासन में एक अंतरराष्ट्रीय विशेषज्ञ और एआई और लिंग पर यूरोपीय परिषद के एक अध्ययन की लेखिका इवाना बार्टोलेटी ने इख़बारी समाचार एजेंसी को समझाया: "कृत्रिम बुद्धिमत्ता ऐसे डेटा पर निर्भर करती है जो तटस्थ नहीं है; यह ऐतिहासिक असमानताओं और शक्ति संबंधों से चिह्नित समाजों को दर्शाता है। यदि कोई कंपनी निष्पक्ष परिणाम चाहती है, तो उसे अपने डेटासेट की जांच करनी चाहिए, उनकी प्रतिनिधित्व क्षमता को सत्यापित करना चाहिए, और जब वे नहीं हों तो सक्रिय रूप से हस्तक्षेप करना चाहिए। इक्विटी अपने आप उत्पन्न नहीं होती; इसे डिजाइन किया जाना चाहिए।"

बार्टोलेटी के लिए, ग्रोक का हालिया मामला – एलन मस्क का एआई सिस्टम जिसने महिलाओं और नाबालिगों की फर्जी न्यूड तस्वीरें बनाने की अनुमति दी थी, जिसे बाद में निलंबित कर दिया गया था – "दिखाता है कि जब सिस्टम डिजाइन में महिलाओं की सुरक्षा और अधिकारों पर विचार नहीं किया जाता है तो क्या होता है।" वह आगे कहती हैं: "यदि महिलाओं को डिजिटल रूप से कपड़े उतारने के उपकरण मौजूद हैं, तो उनका उपयोग किया जाएगा। न्यूड डीपफेक अपमान और नियंत्रण का एक रूप है। निहित संदेश खतरनाक है: आप ऑनलाइन हैं, इसलिए आप इसके हकदार हैं। इस तरह कई महिलाओं को चुप करा दिया जाता है और वे डिजिटल स्पेस छोड़ देती हैं।"

इसी संदर्भ में, कृत्रिम बुद्धिमत्ता पर पुनर्विचार करने और इसे संघर्ष और साझा शक्ति के मैदान में बदलने के लिए तकनीकी विकल्प बन रहे हैं। उदाहरण के लिए, लैटिन अमेरिका और कैरेबियन में नारीवादी एआई नेटवर्क पारदर्शिता और सार्वजनिक नीतियों पर केंद्रित दर्जनों परियोजनाओं का समर्थन करता है। ऐसे उपकरण हैं जैसे अयमुरएआई, अरवेज एआई और सोफिया जो कानूनी विश्लेषण पर लैंगिक परिप्रेक्ष्य लागू करते हैं और एल्गोरिथम 'पूर्वाग्रहों' और भेदभाव को उजागर करते हैं। अफ्रीकी नारीवाद भी एआई को आत्मनिर्णय के लिए एक स्थान के रूप में दावा करता है, जिसमें अफ्रीकी ज्ञान और आवाज़ों पर प्रशिक्षित एफ़्रोफ़ेमिनासजीपीटी जैसे सहायक शामिल हैं।

बार्टोलेटी जोर देती हैं: "ये पहल दर्शाती हैं कि हम सामान्य भलाई के लिए एआई का उपयोग करने, सामूहिक रूप से डेटा साझा करने और वास्तविक जरूरतों पर केंद्रित समाधान विकसित करने के लिए संगठित हो सकते हैं। लेकिन केंद्रीय बिंदु शक्ति बनी हुई है। एआई में नारीवादी मुद्दा शक्ति का मामला है: महिलाओं को इसकी अधिक आवश्यकता है। हाशिए पर नहीं, बल्कि कंपनियों के शीर्ष पर और उन जगहों पर जहां तकनीकी नीति तय की जाती है। निर्णय लेने वाले स्थानों में विविधता की आवश्यकता है, न केवल कोड लिखने वालों के बीच। कृत्रिम बुद्धिमत्ता केवल तकनीक नहीं है; यह इस बात का चुनाव है कि हम समाज को कैसे बदलना चाहते हैं।"

इख़बारी समाचार एजेंसी