Een deepfake AI-influencer stal mijn trouwfoto's
Als fulltime content creator weet Kelly Stranick ( @kellygracemae ) dat het risico van het online delen van je leven is dat anderen af en toe proberen je foto's te stelen. Wat ze zich niet realiseerde, is dat die mensen soms helemaal geen echte mensen zijn. Hieronder vertelt de in Brooklyn gevestigde influencer in haar eigen woorden wat er gebeurde toen ze ontdekte dat een door AI gegenereerd deepfake Instagram-account haar bruiloft probeerde te laten doorgaan voor die van hen.
In maart 2019 verhuisde ik naar San Francisco voor een baan in de techwereld en woonde ik samen met drie jongens die zeiden dat ik bij Hinge moest zijn. "Zo ontmoeten mensen elkaar nu eenmaal," zeiden ze. "Zo werkt de wereld nu eenmaal." Ik zei dat ik het wel zou doen, en ik matchte met die kerel Andy en we gingen op date. Ik was net 24 en had geen plannen om mijn man te ontmoeten, maar van het een kwam het ander, en zo is het gelopen. Mei 2019: mijn eerste en enige date bij Hinge.
In 2022 dacht ik dat we zouden verloven, maar ik had verwacht dat het in de zomer zou zijn. Toen Andy me op 4 maart 2022 ten huwelijk vroeg, verraste hij me compleet; ik droeg een legging en geen make-up, hoewel ik gelukkig mijn haar had laten föhnen. Ik ben niet zo'n meisje dat opgroeide met de gedachte aan hun bruiloft. Ik dacht er niet eens aan dat ik zou trouwen. Ik kom uit een gescheiden gezin en heb veel trauma's opgelopen door eerdere relaties, dus ik dacht er niet veel over na om ooit te trouwen. Dus toen we verloofd waren, huurden we een full-service weddingplanner in, Veronica Joy Events , die ook een vriendin van de familie is. Ik gaf haar een Pinterest-bord met ideeën en zei: "Ik wil kleurrijke bloemen en discoballen. Ik wil dat het een knalfeest wordt", en liet haar het zelf uitzoeken.
Ik begon in het voorjaar van 2022 met het maken van TikToks, een paar maanden nadat we verloofd waren. Het was gewoon voor de lol – ik had pas begin 2023 echt een publiek – en ik voelde me steeds meer op mijn gemak om online persoonlijker te zijn, inclusief het praten over wat er in mijn leven speelde, wat op dat moment de planning van de bruiloft was. Ik vertelde over het huwelijksproces en over de beslissingen die we namen die authentiek aanvoelden, zoals het niet hebben van een openingsdans of een bruidsfeest. Maar ik zou niet zeggen dat mijn content specifiek voor een bruiloft was of zoiets.
Toen onze trouwdag aanbrak, was ik een van die mensen die dacht: ik heb geen verwachtingen dat dit de mooiste dag van mijn leven wordt . Mijn prioriteit was om kalm te zijn, aanwezig te zijn, van de dag te genieten en niet overspoeld te worden door stress. Ik had 's ochtends tijd voor mezelf; ik had geen grote groep mensen om me samen met mij klaar te maken. Ik wilde dat het heel relaxed zou zijn. Maar omdat ik die verwachtingen niet had, werd het uiteindelijk toch de mooiste dag van mijn leven. Ik kon van alles genieten, van begin tot eind, omdat ik die intenties had. Ik zweefde. Als ik mijn beste zelf kon zijn, zoals ik die dag was, elke dag, zou ik niet te stoppen zijn.
Ik was zeker enthousiast om achteraf over de bruiloft te vertellen – om perspectief en advies te geven – maar ik was geschokt door hoeveel mensen wilden weten. Ik vertelde over onze leveranciers en sprak uitgebreid over mijn mindset rond onze bruiloft – maar wat de meeste aandacht trok, was het feit dat we de bruiloft hadden overgeslagen en voor ons afterparty naar de Brooklyn Mirage waren gegaan.
Onlangs kreeg ik een Instagram-bericht van een van mijn volgers. Ze zei: "Hé, ik was gewoon aan het scrollen en ik zag deze video. Dit is jullie trouwfoto." In de video stond een foto van mijn bruiloft, van mijn man Andy, van alles – maar het was niet mijn gezicht. Een andere influencer had mijn gezicht vervangen door dat van haar, en ze had het over kleine dingen die ze op haar bruiloft had gedaan. Niets daarvan had ook maar enigszins met mij te maken, behalve dat ze mijn foto als intro voor haar video had gebruikt. Mijn eerste reactie was: wat is dat nou weer? Wie is die persoon die mijn trouwfoto maakt, zijn of haar gezicht erop zet en er content over maakt?
Het drong niet eens tot me door dat het AI zou kunnen zijn. Natuurlijk gebruiken mensen AI om te Photoshoppen, maar ik realiseerde me niet dat de persoon in de video AI was, totdat ik over de beproeving postte. Toen kreeg ik veel berichten van mensen die zeiden: "Dit is een deepfake. Dit is niet eens een echt persoon."
Een screenshot van de betreffende video.
Ik heb dit nooit online gedeeld, maar iets soortgelijks overkwam me iets minder dan zes maanden na onze bruiloft. Een van mijn volgers waarschuwde me dat een meisje op RedNote precies dezelfde foto had gemaakt en haar gezicht vakkundig op mijn lichaam had gephotoshopt. Dus het drong niet eens tot me door dat deze nieuwe persoon niet echt was – totdat mensen me een bericht stuurden dat het account een deepfake was. Ik weet nog steeds niet of het een volledig door AI gegenereerd persoon is of dat ze iemands stem en gelijkenis gebruiken om deze video's te maken. Ik realiseerde me ook pas onlangs dat de hele bedoeling achter het deepfake-account, dat meer dan 60.000 volgers heeft, is om een app te verkopen en te promoten die foto's genereert die eruitzien alsof ze afkomstig zijn van een wegwerpcamera.
Deze situatie bracht zeker veel bij me naar boven. Omdat ik zelf niet in de video zit, voel ik me minder verbonden, maar ik heb mensen gezien zoals Arielle Lorre, content creator en podcaster, wiens gezicht en stem door een bedrijf werden gebruikt om een door AI gegenereerde betaalde advertentie te maken waarin ze "praatte" over hun product. Als ik dat was, zou ik helemaal overstuur zijn. Ik zou me zo verward, bang en boos voelen. Ik zou juridische stappen proberen te ondernemen.
“Het speelt in op de kwetsbaarheid van mensen die het verschil niet kunnen zien.”
In mijn geval weet ik niet goed wat ik ervan vind dat het een volledig neppe, door AI gegenereerde persoon is. Ik denk dat dat minder schadelijk is, maar sommige mensen weten ook niet of het echt is of niet. En het is schadelijk voor contentmakers die dingen op internet moeten delen en zich vervolgens blootstellen aan het risico dat iemand die audio of video manipuleert en gebruikt om producten te promoten waar ze nooit over hebben gesproken. Ik vind het ook vervelend dat mijn moeder soms door Instagram Reels scrollt, en dat veel van onze ouders en grootouders niet altijd onderscheid kunnen maken tussen een authentieke menselijke getuigenis en een door AI gegenereerde. Het speelt in op de kwetsbaarheid van mensen die het verschil niet kunnen zien. Over het algemeen moeten we ons gewoon bewust zijn van de content die we consumeren en dingen echt bekijken vanuit de lens van: "Is dit echt of niet?"
Wat deze ervaring echt voor me bevestigde, is dat ik, wanneer ik kinderen op de wereld zet, er alles aan wil doen om ze niet online te delen of hun veiligheid op welke manier dan ook in gevaar te brengen. Iedereen die iets op internet zet, loopt risico – het maakt niet uit of je een influencer bent met een grote groep volgers of gewoon iemand die ergens online een video van ze heeft.
Eerlijk gezegd vind ik dit allemaal maar een grappig verhaal. Het is bizar dat het geen echt persoon is. Ik wist niet eens dat AI-influencers bestonden, maar ik denk dat ze steeds gebruikelijker gaan worden, omdat een merk een nep-influencer niet hoeft te betalen. Ik kan gewoon niet geloven dat ze Andy in de video hebben gehouden en niet mij. Het is zo onbeleefd.
Dit interview is bewerkt en ingekort voor de duidelijkheid.
Digitale adjunct-redacteur
Madison is de Digital Deputy Editor bij ELLE.com, waar ze ook nieuws, politiek en cultuur behandelt. Als ze niet online is, doet ze waarschijnlijk een dutje of probeert ze niet te vallen tijdens het rotsklimmen.
elle
