دیپ‌فیک‌ها، سوگیری‌های الگوریتمی و ظهور هوش مصنوعی فمینیستی: نبردی برای برابری دیجیتال

جهانی - خبرگزاری اخباری

دیپ‌فیک‌ها، سوگیری‌های الگوریتمی و ظهور هوش مصنوعی فمینیستی: نبردی برای برابری دیجیتال

در حالی که هوش مصنوعی (AI) نوآوری‌های انقلابی را نوید می‌دهد، اما به‌طور فزاینده‌ای در مرکز بحثی داغ درباره سوگیری‌های جنسیتی ذاتی و پتانسیل سوءاستفاده قرار گرفته است، همانطور که پدیده هشداردهنده دیپ‌فیک‌های جنسی آشکارا نشان می‌دهد. این سناریو ظهور جنبشی جهانی را برای بازطراحی هوش مصنوعی بر پایه‌هایی عادلانه‌تر و فراگیرتر کاتالیز کرده است، با "هوش مصنوعی فمینیستی" که به‌عنوان پاسخی حیاتی به عصر دیجیتالی که اغلب تحت سلطه داده‌ها و الگوریتم‌های مردانه است، پیشرفت می‌کند.

داده‌های اخیر مجمع جهانی اقتصاد نشان می‌دهد که زنان کمتر از یک‌سوم نیروی کار جهانی در بخش هوش مصنوعی را تشکیل می‌دهند، نابرابری‌ای که مستقیماً در طراحی و کاربرد سیستم‌ها منعکس می‌شود. در واقع، فضاهای آنلاین تمایل دارند کلیشه‌های سازندگان خود را تداوم بخشند و سلطه فعلی مردان در بخش هوش مصنوعی به نمونه‌های متعددی از تبعیض الگوریتمی منجر شده است. از لحاظ تاریخی، سیستم‌های تشخیص تصویر در شناسایی دقیق زنان، به‌ویژه زنان رنگین‌پوست، با مشکل مواجه بوده‌اند که منجر به پیامدهای بالقوه جدی، از جمله در حوزه اجرای قانون شده است. به همین ترتیب، دستیارهای صوتی مدت‌هاست که کلیشه‌های جنسیتی را تقویت کرده‌اند و عمدتاً از صدای زنانه استفاده می‌کنند و زنان را به نقش‌های خدماتی محدود می‌کنند. در زمینه تولید تصویر، هوش مصنوعی اغلب اصطلاح «مدیرعامل» را با چهره‌های مردانه مرتبط می‌کند، در حالی که جستجوی «دستیار» عمدتاً تصاویر زنانه را بازمی‌گرداند.

ایوانا بارتولتی، کارشناس بین‌المللی حاکمیت هوش مصنوعی و نویسنده مطالعه‌ای تأثیرگذار از شورای اروپا در مورد هوش مصنوعی و جنسیت، تأکید می‌کند که «هوش مصنوعی از داده‌هایی تغذیه می‌کند که خنثی نیستند: آنها جوامعی را منعکس می‌کنند که با نابرابری‌های تاریخی و روابط قدرت مشخص شده‌اند.» به گفته بارتولتی، برابری یک نتیجه خودکار نیست، بلکه «باید فعالانه طراحی شود.» شرکتی که به دنبال نتایج عادلانه است باید «مجموعه داده‌ها را بررسی کند، نمایندگی آنها را تأیید کند و در صورت عدم وجود، فعالانه مداخله کند.»

رسوایی اخیر مربوط به Grok، هوش مصنوعی ایلان ماسک که به‌طور موقت امکان تولید دیپ‌فیک‌های برهنه زنان و خردسالان را فراهم کرده بود و سپس این قابلیت به حالت تعلیق درآمد، به‌عنوان یک هشدار جهانی عمل کرد. بارتولتی تأکید می‌کند که این مورد به‌وضوح نشان می‌دهد «چه اتفاقی می‌افتد وقتی ایمنی و حقوق زنان در طراحی سیستم‌ها در نظر گرفته نمی‌شود.» ایجاد و انتشار دیپ‌فیک‌های جنسی نه‌تنها نقض حریم خصوصی است، بلکه شکلی از «تحقیر و کنترل» است که پیامی خطرناک را منتقل می‌کند: «شما آنلاین هستید، پس سزاوار آن هستید.» این فضای تهدیدآمیز بسیاری از زنان را مجبور می‌کند تا از فضاهای دیجیتال کناره‌گیری کنند، صدای خود را خاموش کرده و مشارکت خود را محدود کنند.

در پاسخ به این چالش‌ها، اکوسیستم پویایی از جایگزین‌های تکنولوژیکی و جنبش‌های اجتماعی در حال ظهور است که هدف آنها بازاندیشی هوش مصنوعی به‌عنوان ابزاری برای خیر عمومی و میدانی برای مبارزه برای قدرت مشترک است. شبکه هوش مصنوعی فمینیستی آمریکای لاتین و کارائیب نمونه‌ای پیشگام است که ده‌ها پروژه را حمایت می‌کند که شفافیت و سیاست‌های عمومی فراگیر را ترویج می‌کنند. ابزارهای نوآورانه‌ای مانند AymurAI، Arvage IA و SofIA لنز جنسیتی را در تحلیل‌های حقوقی و الگوریتمی به کار می‌برند و «سوگیری‌ها» و تبعیض‌های جاسازی شده در سیستم‌ها را آشکار می‌کنند. آفروفمینیسم نیز هوش مصنوعی را به‌عنوان فضایی برای خودتعیین‌گری بازپس می‌گیرد و دستیارهایی مانند AfroféminasGpt را توسعه می‌دهد که بر دانش و صداهای سیاهپوستان آموزش دیده‌اند تا اطمینان حاصل شود که فناوری تنوع فرهنگی و اجتماعی را منعکس و پشتیبانی می‌کند.

بارتولتی نتیجه می‌گیرد که این تلاش‌ها «نشان می‌دهند که ما می‌توانیم سازماندهی کنیم تا از هوش مصنوعی برای خیر عمومی استفاده کنیم، داده‌ها را به‌طور جمعی به اشتراک بگذاریم و راه‌حل‌هایی را توسعه دهیم که بر نیازهای واقعی متمرکز هستند.» با این حال، هسته اصلی مسئله همچنان قدرت است. او قاطعانه بیان می‌کند: «مسئله فمینیستی در هوش مصنوعی یک مسئله قدرت است: زنان باید قدرت بیشتری داشته باشند.» این به معنای در حاشیه نماندن نیست، بلکه رسیدن به رأس شرکت‌ها و مکان‌هایی است که سیاست‌های تکنولوژیکی در آنجا تصمیم‌گیری می‌شود. ترویج تنوع نه‌تنها در میان توسعه‌دهندگان کد، بلکه در تمام سطوح تصمیم‌گیری ضروری است، با اذعان به اینکه «هوش مصنوعی فقط فناوری نیست؛ بلکه انتخابی است در مورد اینکه چگونه می‌خواهیم جامعه را متحول کنیم.»

خبرگزاری اخباری