Deepfakes, biais algorithmiques et l'essor de l'IA féministe : une bataille pour l'équité numérique

Monde - Agence de presse Ekhbary

Deepfakes, biais algorithmiques et l'essor de l'IA féministe : une bataille pour l'équité numérique

Si l'intelligence artificielle promet des innovations révolutionnaires, elle se retrouve de plus en plus au centre d'un débat houleux concernant ses biais de genre intrinsèques et son potentiel d'abus, comme en témoigne le phénomène alarmant des deepfakes à caractère sexuel. Ce scénario a catalysé l'émergence d'un mouvement mondial visant à refaçonner l'IA sur des bases plus équitables et inclusives, avec l'"IA féministe" qui s'impose comme une réponse critique à une ère numérique souvent dominée par des données et des algorithmes masculins.

Les données récentes du Forum économique mondial révèlent que les femmes représentent moins d'un tiers de la main-d'œuvre mondiale dans le secteur de l'IA, une disparité qui se reflète directement dans la conception et l'application des systèmes. Les espaces en ligne, en effet, ont tendance à perpétuer les stéréotypes de ceux qui les créent, et la prédominance masculine actuelle dans le secteur de l'IA a conduit à de nombreux exemples de discrimination algorithmique. Historiquement, les systèmes de reconnaissance d'images ont eu du mal à identifier avec précision les femmes, en particulier les femmes de couleur, ce qui a entraîné des conséquences potentiellement graves, y compris dans le domaine de l'application de la loi. De même, les assistants vocaux ont longtemps renforcé les stéréotypes de genre, utilisant majoritairement des voix féminines et reléguant les femmes à des rôles de service. Dans le domaine de la génération d'images, l'IA associe souvent le terme « PDG » à des figures masculines, tandis qu'une recherche pour « assistant » renvoie majoritairement des images féminines.

Ivana Bartoletti, experte internationale en gouvernance de l'intelligence artificielle et auteure d'une étude influente du Conseil de l'Europe sur l'IA et le genre, souligne que « l'intelligence artificielle se nourrit de données qui ne sont pas neutres : elles reflètent des sociétés marquées par des inégalités historiques et des rapports de pouvoir ». Selon Bartoletti, l'équité n'est pas un résultat automatique, mais « doit être activement conçue ». Une entreprise aspirant à des résultats équitables doit « interroger les ensembles de données, vérifier leur représentativité et intervenir activement lorsqu'ils ne le sont pas ».

Le récent scandale impliquant Grok, l'IA d'Elon Musk qui avait temporairement permis la génération de deepfakes de femmes et de mineurs nus avant que la fonction ne soit suspendue, a servi de signal d'alarme mondial. Bartoletti souligne comment cette affaire démontre clairement « ce qui se passe lorsque la sécurité et les droits des femmes ne sont pas pris en compte dans la conception des systèmes ». La création et la diffusion de deepfakes à caractère sexuel ne sont pas seulement une violation de la vie privée, mais une forme « d'humiliation et de contrôle », véhiculant un message dangereux : « vous êtes en ligne, donc vous le méritez ». Ce climat menaçant pousse de nombreuses femmes à se retirer des espaces numériques, réduisant leurs voix au silence et limitant leur participation.

En réponse à ces défis, un écosystème vibrant d'alternatives technologiques et de mouvements sociaux est en train d'émerger, visant à repenser l'IA comme un outil pour le bien commun et un champ de bataille pour un pouvoir partagé. Le Réseau féministe d'IA d'Amérique latine et des Caraïbes est un exemple pionnier, soutenant des dizaines de projets qui promeuvent la transparence et des politiques publiques inclusives. Des outils innovants tels qu'AymurAI, Arvage IA et SofIA appliquent une lentille de genre à l'analyse juridique et algorithmique, démasquant les « biais » et la discrimination intégrés dans les systèmes. L'afroféminisme revendique également l'IA comme un espace d'autodétermination, développant des assistants comme AfroféminasGpt, formés sur les connaissances et les voix noires, pour garantir que la technologie reflète et soutienne la diversité culturelle et sociale.

Bartoletti conclut que ces efforts « démontrent que nous pouvons nous organiser pour utiliser l'IA pour le bien commun, partager des données collectivement et développer des solutions centrées sur des besoins réels ». Cependant, le cœur du problème reste le pouvoir. « La question féministe dans l'IA est une question de pouvoir : les femmes doivent en avoir davantage », affirme-t-elle fermement. Cela signifie ne pas rester en marge, mais atteindre le sommet des entreprises et les lieux où la politique technologique est décidée. Il est essentiel de promouvoir la diversité non seulement parmi les développeurs de code, mais à tous les niveaux de décision, reconnaissant que « l'intelligence artificielle n'est pas seulement une technologie ; c'est un choix sur la façon dont nous voulons transformer la société ».

Agence de presse Ekhbary