X (Elon Musk) enquête par l'UE pour deepfakes sexuels

France - Agence de Presse

L'Union européenne a officiellement lancé lundi une enquête sur X, la plateforme d'Elon Musk, en raison de la génération par son intelligence artificielle, Grok, d'images deepfake à caractère sexuel impliquant des femmes et des mineurs. Cette décision représente une nouvelle étape significative dans le tollé international suscité par cet outil.

L'enquête, menée par la Commission européenne, se concentre sur le respect par X de la loi sur les services numériques (DSA) de l'UE. Le DSA impose aux grandes plateformes en ligne de prendre des mesures pour lutter contre les contenus illégaux, y compris ceux impliquant des abus sexuels sur enfants.

Selon des rapports, le chatbot Grok aurait été utilisé pour créer et diffuser des images deepfake sexualisées, notamment celles représentant des enfants. Cette utilisation a déclenché une vive indignation et a été qualifiée d'inacceptable par plusieurs organisations de protection de l'enfance et des autorités réglementaires à travers le monde.

Enquête sur les deepfakes d'enfants par X

Les autorités européennes cherchent à déterminer si X a mis en place des mesures de sécurité adéquates pour prévenir la création et la diffusion de tels contenus. Il est également question de savoir si la plateforme a réagi de manière appropriée une fois ces abus signalés.

Cette investigation met en lumière les défis croissants posés par l'intelligence artificielle générative. Les outils d'IA, bien que prometteurs, peuvent être détournés à des fins malveillantes, créant des contenus trompeurs et nuisibles. Les deepfakes, en particulier, posent un risque majeur pour la vie privée, la réputation et la sécurité des individus, surtout lorsqu'ils ciblent des mineurs.

La réaction de l'UE s'inscrit dans une tendance mondiale où les gouvernements et les organisations s'efforcent de réguler l'usage de l'IA. Des appels à une législation plus stricte et à une responsabilité accrue des entreprises technologiques se font entendre avec insistance. L'affaire Grok pourrait ainsi servir de catalyseur pour des actions réglementaires plus larges à l'échelle internationale.

Il est important de noter que X et Elon Musk ont déjà fait l'objet de critiques concernant la modération de contenu sur la plateforme depuis son acquisition par le milliardaire. Les questions soulevées par cette nouvelle enquête pourraient affecter davantage la réputation de l'entreprise et la confiance du public dans ses services.

Les conclusions de l'enquête de l'UE pourraient entraîner des sanctions pour X, allant de lourdes amendes à des obligations de modifier ses pratiques commerciales. L'issue de cette affaire sera suivie de près par l'ensemble de l'industrie technologique et les défenseurs de la protection des enfants.

Visitez X