X Gemanipuleerde Media: Musks Nieuwe Labelingssysteem

Nederland - Nieuwsdienst X

X gemanipuleerde media aanpakken is het nieuwste initiatief van Elon Musk's socialemediaplatform, zo lijkt het. X is het meest recente sociale netwerk dat een functie uitrolt om bewerkte afbeeldingen te labelen als "gemanipuleerde media," als een bericht van Elon Musk zelf mag worden geloofd. Echter, het bedrijf heeft nog niet verduidelijkt hoe het deze bepaling zal maken, of het nu beelden omvat die zijn bewerkt met traditionele tools zoals Adobe Photoshop.

Tot nu toe komen de enige details over de nieuwe functie van een cryptische X-post van Elon Musk, waarin staat: "Edited visuals warning," terwijl hij een aankondiging van een nieuwe X-functie deelt die is gedaan door het anonieme X-account DogeDesigner. Dit account wordt vaak gebruikt als een proxy voor het introduceren van nieuwe X-functies, aangezien Musk van daaruit berichten deelt om nieuws te verspreiden.

Desondanks blijven de details over het nieuwe systeem schaars. De post van DogeDesigner beweerde dat de nieuwe functie van X het "moeilijker zou kunnen maken voor traditionele mediagroepen om misleidende clips of foto's te verspreiden." Het beweerde ook dat de functie nieuw is voor X.

Voordat het werd overgenomen en omgedoopt tot X, labelde het bedrijf, bekend als Twitter, tweets met gemanipuleerde, bedrieglijk gewijzigde of gefabriceerde media als alternatief voor het verwijderen ervan. Het beleid was niet beperkt tot AI, maar omvatte zaken als "geselecteerd bewerken of bijsnijden of vertragen of overdubben, of manipulatie van ondertitels," zei het hoofd van site-integriteit, Yoel Roth, in 2020.

Het is onduidelijk of X dezelfde regels toepast of significante wijzigingen heeft aangebracht om AI aan te pakken. De helpdocumentatie stelt momenteel dat er een beleid is tegen het delen van onauthentieke media, maar dit wordt zelden afgedwongen, zoals de recente deepfake-debacle van gebruikers die niet-consensuele naaktbeelden deelden aantoonde. Bovendien deelt zelfs het Witte Huis nu gemanipuleerde afbeeldingen.

Uitdagingen bij het Identificeren van Gemanipuleerde Media

Het labelen van iets als "gemanipuleerde media" of een "AI-afbeelding" kan genuanceerd zijn. Gezien het feit dat X een platform is voor politieke propaganda, zowel nationaal als internationaal, zou enige duidelijkheid over hoe het bedrijf bepaalt wat "bewerkt," of misschien door AI gegenereerd of gemanipuleerd is, moeten worden gedocumenteerd. Bovendien moeten gebruikers weten of er een soort geschillenprocedure bestaat buiten de crowdsourced Community Notes van X.

Zoals Meta ontdekte toen het in 2024 AI-beeldlabeling introduceerde, is het gemakkelijk voor detectiesystemen om fouten te maken. In hun geval bleek Meta echte foto's ten onrechte te labelen met de aanduiding "Gemaakt met AI," hoewel ze niet waren gemaakt met generatieve AI. Dit gebeurde omdat AI-functies steeds vaker worden geïntegreerd in creatieve tools die door fotografen en grafische kunstenaars worden gebruikt, zoals de nieuwe Creator Studio-suite van Apple.

• Adobe's bijsnijdtool zorgde ervoor dat afbeeldingen werden afgeplat voordat ze als JPEG werden opgeslagen, wat de AI-detector van Meta activeerde.
• Adobe's Generative AI Fill, gebruikt om objecten te verwijderen (bijvoorbeeld rimpels in een overhemd of een ongewenste reflectie), zorgde er ook voor dat afbeeldingen werden gelabeld als "Gemaakt met AI," terwijl ze alleen met AI-tools waren bewerkt.

Uiteindelijk heeft Meta het label bijgewerkt naar "AI-info," om afbeeldingen niet ronduit als "Gemaakt met AI" te labelen wanneer ze dat niet waren.

Tegenwoordig is er een normstellende instantie voor het verifiëren van de authenticiteit en de herkomst van digitale inhoud, bekend als de C2PA (Coalition for Content Provenance and Authenticity). Er zijn ook gerelateerde initiatieven zoals CAI (Content Authenticity Initiative) en Project Origin, gericht op het toevoegen van fraudebestendige herkomstmetadata aan media-inhoud.

Vermoedelijk zou de implementatie van X zich houden aan een soort bekend proces voor het identificeren van AI-inhoud, maar de eigenaar van X, Elon Musk, zei niet wat dat is. Hij verduidelijkte ook niet of hij specifiek spreekt over AI-afbeeldingen, of gewoon alles wat niet de foto is die rechtstreeks vanaf je smartphonecamera naar X wordt geüpload. Het is zelfs onduidelijk of de functie gloednieuw is, zoals DogeDesigner beweert.

X is niet de enige die worstelt met gemanipuleerde media. Naast Meta heeft ook TikTok AI-inhoud gelabeld. Streamingdiensten zoals Deezer en Spotify schalen ook initiatieven op om AI-muziek te identificeren en te labelen. Google Foto's gebruikt C2PA om aan te geven hoe foto's op haar platform zijn gemaakt. Microsoft, de BBC, Adobe, Arm, Intel, Sony, OpenAI en anderen zitten in de stuurgroep van de C2PA, terwijl veel meer bedrijven zich als lid hebben aangesloten.

X staat momenteel niet vermeld onder de leden, hoewel we contact hebben opgenomen met C2PA om te zien of dat recentelijk is gewijzigd. X reageert doorgaans niet op verzoeken om commentaar, maar we hebben het toch gevraagd.

Bron: Nieuwsdienst X