Deepfakes: de dreiging van ultrafakes en desinformatie

In het digitale tijdperk, waar informatie macht is, dreigt een nieuwe technologie de basis van de realiteit te ondermijnen: deepfakes. Deze hyperrealistische montages, gecreëerd met kunstmatige intelligentie (AI), vormen een existentiële bedreiging voor het publieke vertrouwen. Hun grootste gevaar is niet alleen het misleiden van mensen met valse content, maar ook het vernietigen van het geloof in de waarheidsgetrouwheid van welke content dan ook, een corrosief fenomeen dat bekendstaat als het "leugenaarsdividend". Door de toenemende toegankelijkheid ontwikkelt deze technologie zich tot een gedemocratiseerd instrument voor fraude, intimidatie en politieke destabilisatie, met bijzonder acute risico's voor Latijns-Amerikaanse democratieën.

Wat zijn deepfakes en hoe werken ze?

De term "deepfake" verwijst naar video-, beeld- of audiobestanden die door AI gemanipuleerd of synthetisch gegenereerd zijn om authentiek en echt te lijken. De technologie is gebaseerd op een vorm van deep learning die gebruikmaakt van generatieve adversarial networks (GAN's). In dit systeem concurreren twee AI-netwerken met elkaar: een "generator" creëert de nepcontent (bijvoorbeeld door het gezicht van een politicus over het lichaam van een ander te projecteren) en een "discriminator" probeert de nepcontent te detecteren. Dit competitieve proces stelt de AI in staat om exponentieel te leren en te verbeteren, waardoor steeds overtuigender nepcontent ontstaat.

Van financiële fraude tot politieke desinformatie

Hoewel de technologie onschuldige toepassingen heeft in film en kunst, is het potentieel voor kwaadaardig gebruik ervan groot en wordt dit al onderkend:

* Fraude en afpersing: Criminelen gebruiken deepfakes om zich voor te doen als individuen. In een beruchte zaak in Hongkong werd een financieel medewerker misleid om $ 25 miljoen over te maken na een videoconferentie waaraan alle deelnemers, inclusief de CFO van zijn bedrijf, deepfakes waren. Op persoonlijk vlak wordt de technologie gebruikt om pornografie te creëren met de gezichten van slachtoffers, zonder wederzijdse toestemming, met als doel hen te intimideren of af te persen. Uit onderzoek bleek dat 96% van de online gevonden deepfakes pornografisch van aard was.

* Desinformatie en politieke manipulatie: Deepfakes zijn het perfecte wapen voor desinformatie. Video's van politieke leiders die dingen zeggen of doen die nooit gebeurd zijn, kunnen worden gemaakt om de publieke opinie te manipuleren, verkiezingen te beïnvloeden of geweld aan te wakkeren. Tijdens de oorlog in Oekraïne dook er een nepvideo op waarin president Zelensky zijn troepen opriep tot overgave.

* Erosie van vertrouwen: Het loutere bestaan ​​van deze technologie ondermijnt het vertrouwen in instellingen, de media en het bewijs zelf. Een experimentele studie toonde aan dat blootstelling aan een deepfake over een ingestorte brug het wantrouwen in de overheid onder Amerikaanse deelnemers vergrootte.

Het dividend van de leugenaar: twijfel aan alles

De meest corrosieve impact van deepfakes is niet dat we de onwaarheid geloven, maar dat we aan de waarheid gaan twijfelen. Dit is het "leugenaarsdividend": technologie geeft elke publieke figuur de mogelijkheid om elk reëel bewijs tegen hem of haar te ontkennen. Als er een authentieke video opduikt waarin een politicus wordt beschuldigd, kan hij of zij simpelweg beweren dat het een "deepfake" is. Deze bewering, zelfs een leugen, zaait genoeg twijfel dat het bewijs zijn kracht verliest. Het gesprek verschuift van de daadwerkelijke overtreding naar een eindeloos debat over de authenticiteit van de video, waarmee het concept van gedeelde realiteit, dat fundamenteel is voor democratische verantwoording, wordt ondermijnd.

De democratisering van chaos en het risico voor Latijns-Amerika

Terwijl de krantenkoppen zich richten op deepfakes van wereldleiders, speelt het echte gevaar zich af op lokaal en persoonlijk niveau. De technologie wordt steeds goedkoper en gebruiksvriendelijker, waardoor deze in handen komt van iedereen met kwade bedoelingen. In de socialemedia-ecosystemen van Latijns-Amerika, die vaak sterk gepolariseerd zijn en minder vertrouwen hebben in traditionele media, is deze "democratisering van chaos" bijzonder gevaarlijk. Een deepfakevideo kan worden gebruikt om de reputatie van een gemeenteraadslid te vernietigen, bewijs tegen een sociaal activist te verzinnen of haat tegen een minderheidsgroep aan te wakkeren, wat onherstelbare schade kan aanrichten lang voordat de video kan worden ontkracht.

Om onszelf te beschermen, adviseren experts een combinatie van onderwijs om kritisch denken te stimuleren, de ontwikkeling van technologische detectietools en regelgeving die transparantie en verantwoording vereist. Het is essentieel om waakzaam te zijn, informatie gedetailleerd te analyseren, bronnen te vergelijken en gezond verstand te gebruiken. Democratie in het digitale tijdperk kan zichzelf niet verdedigen; het vereist een actieve, kritische burgerij die zich bewust is van de nieuwe vormen die leugens aannemen.