AI AVATARS: Leuk of een nachtmerrie? Uw gegevens in groot gevaar

Apps voor het maken van anime-avatars met behulp van kunstmatige intelligentie zijn de nieuwste trend, maar achter al dat plezier schuilen serieuze gevaren voor je persoonlijke gegevens en privacy. Wij vertellen je wat niemand anders zegt.

De mogelijkheid om met slechts een paar tikken op je telefoon te transformeren in een animepersonage is de nieuwste virale sensatie geworden. Apps die kunstmatige intelligentie (AI) gebruiken om persoonlijke foto's om te zetten in gestileerde Japanse animatiebeelden, of om compleet nieuwe personages te creëren op basis van beschrijvingen, zijn in opkomst. Deze fascinerende trend brengt echter aanzienlijke risico's met zich mee die vaak onopgemerkt blijven te midden van de spanning van het moment.

De populariteit van deze apps komt voort uit hun gebruiksgemak en de onmiskenbare aantrekkingskracht van de anime-esthetiek, een cultureel fenomeen met miljoenen volgers wereldwijd. Diehard fans, beginnende artiesten en het grote publiek voelen zich aangetrokken tot de mogelijkheid om hun eigen imago te vernieuwen of hun creaties snel en betaalbaar tot leven te brengen. De belofte van "levendigere en spannendere herinneringen" of het hebben van een "AI-artiest binnen handbereik" is een krachtige aantrekkingskracht.

Wanneer een gebruiker besluit een van deze apps te gebruiken, is de primaire invoer uiteraard een persoonlijke foto. Dit vormt op zichzelf al het verstrekken van biometrische gezichtsgegevens. Maar de gegevensverzameling stopt daar vaak niet. Een analyse van het privacybeleid en de werking van sommige van deze apps laat een breder beeld zien:

* Unieke identificatiegegevens: veel apps verzamelen apparaat- of advertentie-identificatiegegevens, waarmee gebruikersactiviteit op verschillende apps en websites kan worden bijgehouden.

* Gebruiksgegevens: hoe u met de app omgaat, welke functies u gebruikt, welke filters u selecteert. Dit alles kan worden geregistreerd en geanalyseerd.

* Gebruikersinhoud: Aanwijzingen of tekstuele beschrijvingen voor het genereren van afbeeldingen, toegepaste aanpassingen en zelfs de resulterende avatars zijn gegevens die de app verwerkt en vaak opslaat.

* Diagnostische gegevens: Informatie over applicatieprestaties, fouten en technische storingen kan ook naar ontwikkelaars worden verzonden.

* Contactgegevens: In sommige gevallen kunnen contactgegevens, zoals e-mailadressen, worden opgevraagd of verzameld, hoewel soms wordt aangegeven dat deze niet rechtstreeks aan de identiteit van de gebruiker zijn gekoppeld.

Het is belangrijk om te weten dat niet alle apps hetzelfde zijn. Sommige apps, zoals de "Anime AI Art Avatar Generator" die beschikbaar is op Google Play, vermelden in hun beleid dat ze ofwel geen gegevens verzamelen ofwel zich beperken tot apparaat-ID's. Deze variatie onderstreept hoe belangrijk het is dat gebruikers de toestemmingen die ze verlenen en het privacybeleid van elke app zorgvuldig controleren voordat ze deze gebruiken.

"Als je je foto uploadt naar een AI-avatar-app, maak je niet alleen een leuke afbeelding; je geeft ook biometrische gegevens door en mogelijk nog veel meer." (Expertanalyse)

Het bewust of onbewust delen van dit amalgaam aan persoonlijke gegevens opent de deur naar een reeks gevaren die veel verder gaan dan het simpelweg creëren van een vermakelijk beeld:

* Avatar kopiëren en misbruiken: Zodra een avatar online wordt gepubliceerd, of zelfs als deze alleen maar wordt gegenereerd en opgeslagen op de servers van de app, verliest de gebruiker aanzienlijk de controle. Deze afbeeldingen kunnen worden gekopieerd, bewerkt en gebruikt om deepfakes (hyperrealistische nepvideo's of -afbeeldingen) te maken, gebruikers op sociale media na te bootsen of zelfs financiële of andere vormen van fraude te plegen.

* Kwetsbaarheid in privacyinstellingen: Zelfs als een app privacyinstellingen biedt, zijn ze niet waterdicht. Platforms kunnen worden gehackt en gegevens kunnen lekken, waardoor avatars die als "privé" werden beschouwd, zichtbaar worden.

* Onduidelijke licentie- en eigendomsrechten: Een cruciaal en vaak over het hoofd gezien aspect zijn de servicevoorwaarden. Sommige platforms behouden zich het recht voor om door gebruikers gemaakte avatars te gebruiken, te verspreiden en er zelfs geld mee te verdienen zonder dat hiervoor expliciete toestemming nodig is. Dit kan betekenen dat de afbeelding van een gebruiker zonder medeweten of goedkeuring deel uitmaakt van een reclamecampagne.

* Avatarlevensduur buiten jouw controle: Het concept van iets "verwijderen" van het internet is relatief. Zelfs als een gebruiker zijn avatar van het oorspronkelijke platform verwijdert, bestaan ​​er waarschijnlijk kopieën op back-upservers, apparaten van anderen of in webcaches, waardoor volledige uitroeiing vrijwel onmogelijk is.

* Je avatar tegen je gebruiken: in de verkeerde handen kan een AI-avatar een instrument voor kwaaddoen worden. Oplichters zouden de afbeelding kunnen gebruiken om vrienden en familie te misleiden en hen om geld te laten vragen. Nepprofielen op sociale media kunnen worden aangemaakt om misinformatie te verspreiden of iemands reputatie te schaden. Criminelen zouden de avatar kunnen manipuleren om het te laten lijken alsof de gebruiker compromitterende dingen zegt of doet.

* Wettelijke regelgeving nog in ontwikkeling: Het juridische kader rond AI-avatars, deepfakes en de bescherming van digitale beelden is in de meeste rechtsgebieden nog in de kinderschoenen en gefragmenteerd. Dit gebrek aan robuuste en geharmoniseerde regelgeving maakt het voor slachtoffers van misbruik moeilijk om gerechtigheid of genoegdoening te krijgen.

De combinatie van het gemak waarmee deze avatars kunnen worden gecreëerd en de enorme hoeveelheid biometrische en persoonlijke gegevens die worden verzameld, creëert een enorme nieuwe risicovector voor de privacy van individuen. Het gaat niet alleen om de afbeelding zelf, maar ook om de mogelijkheid dat onze gezichten, en daarmee ook onze identiteit, worden gebruikt om kunstmatige-intelligentiemodellen te trainen voor onbekende, ongeautoriseerde of ronduit kwaadaardige doeleinden.

Gezien de populariteit van deze middelen is volledige onthouding voor velen misschien geen optie. Er kunnen echter maatregelen worden genomen om de risico's te beperken:

* Onderzoek de reputatie van de app en de ontwikkelaar: Niet alle platforms hanteren dezelfde ethische of beveiligingsnormen. Zoek naar reviews, doe onderzoek naar de ontwikkelaar en geef prioriteit aan services die een duidelijke toewijding aan de bescherming van gebruikersgegevens laten zien.

* Lees (Ja, LEES) de Servicevoorwaarden en het Privacybeleid: Voordat u akkoord gaat, dient u te begrijpen welke rechten u verleent op uw afbeeldingen en persoonsgegevens. Besteed speciale aandacht aan de bepalingen over intellectueel eigendom en het gebruik van content.

* Beperk app-machtigingen: Verleen alleen machtigingen die strikt noodzakelijk zijn voor de werking van de app. Wees voorzichtig als de app toegang vraagt ​​tot contacten, de microfoon of locatie, tenzij dit essentieel is voor het genereren van de avatar.

* Denk na over het type foto dat je uploadt: Zelfs als je een persoonlijke avatar wilt maken, wees je dan bewust van de risico's. Experimenteer, indien mogelijk en de app het toestaat, met minder directe foto's of foto's waarop niet al je gezichtskenmerken duidelijk te zien zijn, als je je zorgen maakt over je biometrie.

* Wees selectief met wat je online deelt: denk twee keer na voordat je je avatar op al je sociale netwerken plaatst. Zodra iets openbaar is, heb je geen controle meer over de verspreiding ervan.

Het ontbreken van specifieke en robuuste regelgeving, in combinatie met het wereldwijde en vaak anonieme karakter van sommige van deze applicaties, maakt effectieve gebruikersbescherming een aanzienlijke uitdaging. Deze situatie zou ons kunnen leiden naar een toekomst waarin onze "digitale tweelingen" – de samensmelting van onze avatars en de bijbehorende gegevens – worden verhandeld, geanalyseerd of geëxploiteerd zonder onze expliciete controle of medeweten. Dit zou niet alleen het traditionele concept van persoonlijke privacy ondermijnen, maar zou ook het begrip identiteit in het digitale tijdperk zelf kunnen herdefiniëren. Een dergelijk scenario zou op zijn beurt kunnen leiden tot een maatschappelijke en politieke vraag naar sterkere en specifiekere wetten voor het "recht om vergeten te worden" voor biometrische gegevens en door AI gegenereerde creaties, evenals een diepgaander debat over het eigendom van en de controle over onze digitale identiteit.

| Soort verzamelde gegevens | Voorbeeld | Belangrijkste potentiële risico |

|—|—|—|

| Persoonlijke foto's (gezichtsbiometrie) | Jouw selfie | Deepfake-creatie, identiteitsdiefstal, training in AI zonder wederzijdse toestemming, profilering. |

| Identificatiegegevens (apparaat-/advertentie-ID) | De unieke identificatie van uw telefoon | Activiteitsregistratie in apps en websites, profilering van opdringerige advertenties. |

| Gebruiksgegevens | Welke filters u gebruikt, hoe vaak, wat u creëert | Gedragsprofilering, voorkeursinferentie, manipulatie van app-ervaring. |

| Gebruikersinhoud (Prompts, Avatars) | Uw creaties en de beschrijvingen die u invoert | Ongeautoriseerd gebruik van uw creaties door het platform, analyse van uw interesses en creativiteit. |

| Ondoorzichtige of misbruikende servicevoorwaarden | Bepalingen zoals "Wij behouden ons het recht voor om..." | Verlies van controle over hoe uw afbeelding en gegevens worden gebruikt, overdracht van eigendomsrechten. |