Deepfake AI Influencer ukradł moje zdjęcia ślubne

Jako pełnoetatowa twórczyni treści, Kelly Stranick ( @kellygracemae ) wie, że jednym z ryzyk związanych z dzieleniem się swoim życiem w sieci jest to, że czasami inni ludzie będą próbowali ukraść twoje zdjęcia. Nie zdawała sobie sprawy, że czasami te osoby wcale nie są prawdziwymi ludźmi. Poniżej mieszkająca w Brooklynie influencerka dzieli się własnymi słowami tym, co się stało, gdy odkryła, że ​​deepfake wygenerowane przez sztuczną inteligencję konto na Instagramie próbowało przedstawić jej ślub jako ich własny.

W marcu 2019 roku przeprowadziłam się do San Francisco, aby podjąć pracę w branży technologicznej i zamieszkałam z trzema chłopakami, którzy powiedzieli mi, że muszę dołączyć do Hinge. „Tak właśnie ludzie się poznają” — powiedzieli. „Tak teraz działa świat”. Powiedziałam im, w porządku, zrobię to i dopasowałam się do tego faceta, Andy'ego, i poszłam z nim na randkę. Miałam świeżo 24 lata i nie planowałam spotkania z mężem — ale jedno wydarzenie pociągnęło za sobą drugie i tak się to potoczyło. Maj 2019: moja pierwsza i jedyna randka w Hinge.

W 2022 roku myślałam, że się zaręczymy, ale uznałam, że to będzie latem. Kiedy Andy oświadczył się 4 marca 2022 roku, zaskoczył mnie całkowicie; miałam na sobie legginsy i nie miałam makijażu, ale na szczęście miałam rozpuszczone włosy. Nie jestem jedną z tych dziewczyn, które dorastały, myśląc o swoim ślubie. Nawet nie myślałam, że wyjdę za mąż. Pochodzę z rozwiedzionej rodziny i miałam wiele traum związanych z poprzednimi związkami, więc nie myślałam zbyt wiele o tym, żeby pewnego dnia zorganizować ślub. Więc kiedy się zaręczyliśmy, zatrudniliśmy kompleksową konsultantkę ślubną, Veronicę Joy Events , która jest również przyjaciółką rodziny. Dałam jej tablicę pomysłów na Pintereście i powiedziałam: „Chcę kolorowych kwiatów i kul dyskotekowych. Chcę, żeby było jak na imprezie” i pozwoliłam jej zająć się tym dalej.

Zaczęłam tworzyć TikToki wiosną 2022 roku, kilka miesięcy po naszych zaręczynach. To była tylko zabawa — tak naprawdę nie miałam publiczności aż do początku 2023 roku — i czułam się komfortowo, będąc bardziej osobistą online, w tym opowiadając o tym, co działo się w moim życiu, a w tamtym czasie było to planowanie ślubu. Dzieliłam się informacjami o procesie ślubu i mówiłam o decyzjach, które podjęliśmy, które wydawały się nam autentyczne, jak brak pierwszego tańca lub drużby weselnej. Ale nie powiedziałabym, że moje treści były ściśle związane ze ślubem czy czymś takim.

Jeśli chodzi o nasz dzień ślubu, byłam jedną z tych osób, które myślały, że nie mają żadnych oczekiwań, że będzie to najlepszy dzień w moim życiu . Moim priorytetem było zachowanie spokoju, bycie obecnym, cieszenie się dniem i nie zalewanie się stresem. Miałam czas dla siebie rano; nie było dużej grupy ludzi przygotowujących się ze mną. Chciałam, żeby było bardzo spokojnie. Ale ponieważ nie miałam takich oczekiwań, ostatecznie okazał się to najlepszy dzień w moim życiu. Mogłam cieszyć się wszystkim od początku do końca, ponieważ wyznaczyłam sobie takie intencje. Płynęłam. Gdybym mogła być najlepszą wersją siebie, taką jak byłam tego dnia, każdego dnia, byłabym nie do zatrzymania.

Zdecydowanie byłam podekscytowana, że ​​mogę opowiedzieć o ślubie po fakcie — dać perspektywę i porady — ale byłam zszokowana, jak wiele ludzie chcieli wiedzieć. Opowiedziałam o naszych dostawcach i dużo mówiłam o nastawieniu, jakie miałam do naszego ślubu — chociaż rzeczą, która przyciągnęła najwięcej uwagi, był fakt, że uciekliśmy ze ślubu i poszliśmy do Brooklyn Mirage na nasze after-party.

Niedawno dostałam wiadomość na Instagramie od jednej z moich obserwatorek. Napisała: „Hej, przewijałam właśnie i zobaczyłam ten filmik. To jest wasze zdjęcie ślubne”. Na filmiku było zdjęcie mojego ślubu, mojego męża, Andy'ego, wszystkiego — ale to nie była moja twarz. Ta inna influencerka zastąpiła moją twarz swoją i mówiła o małych rzeczach, które zrobiła na swoim ślubie. Nic z tego nie było nawet w najmniejszym stopniu związane ze mną, poza faktem, że użyła mojego zdjęcia jako wstępu do swojego filmiku. Moją pierwszą reakcją było: Co do cholery? Kim jest ta osoba, która robi moje zdjęcie ślubne, umieszcza na nim swoją twarz i tworzy o tym treści?

Nawet nie przyszło mi do głowy, że to może być AI. Oczywiście ludzie używają AI do Photoshopa, ale nie zdawałem sobie sprawy, że osoba na filmie to AI, dopóki nie opublikowałem posta o tej gehennie. Potem zacząłem dostawać mnóstwo wiadomości od ludzi, którzy mówili: „To deepfake. To nawet nie jest prawdziwa osoba”.

Zrzut ekranu z omawianego filmu.

Nigdy nie dzieliłem się tą częścią online, ale coś podobnego przydarzyło mi się nieco mniej niż sześć miesięcy po naszym ślubie. Jeden z moich obserwatorów poinformował mnie, że dziewczyna na RedNote zrobiła dokładnie to samo zdjęcie i fachowo wkleiła swoją twarz na moje ciało. Więc nawet nie dotarło do mnie, że ta nowa osoba nie jest prawdziwa — dopóki ludzie nie napisali do mnie, że konto jest deepfake. Nadal nie wiem, czy jest to osoba w pełni wygenerowana przez sztuczną inteligencję, czy też używają czyjegoś głosu i podobizny do generowania tych filmów. Do niedawna nie zdawałem sobie również sprawy, że cały zamysł stojący za kontem deepfake, które ma ponad 60 000 obserwujących, polega na sprzedaży i promowaniu aplikacji, która generuje zdjęcia tak, aby wyglądały, jakby pochodziły z jednorazowego aparatu.

Ta sytuacja zdecydowanie wywołała u mnie wiele myśli. Ponieważ tak naprawdę nie ma mnie w tym filmie, czuję się mniej powiązana, ale widziałam osoby takie jak Arielle Lorre, która jest twórczynią treści i podcasterką, której twarz i głos zostały wykorzystane przez firmę do stworzenia płatnej reklamy generowanej przez sztuczną inteligencję, w której „mówiła” o ich produkcie. Gdybym to była ja, byłabym tak wściekła. Czułabym się tak zdezorientowana, przestraszona i wkurzona. Próbowałabym podjąć kroki prawne.

W moim przypadku nie jestem pewien, co sądzę o tym, że jest to całkowicie fałszywa, wygenerowana przez sztuczną inteligencję osoba. Uważam, że to mniej szkodliwe, ale niektórzy ludzie nie wiedzą, czy to prawda, czy nie. I jest to szkodliwe dla twórców treści, którzy muszą udostępniać rzeczy w Internecie, a następnie narażają się na ryzyko, że ktoś zmanipuluje tym dźwiękiem lub wideo i wykorzysta je do promowania produktów, o których nigdy nie mówili. Czuję się również nieswojo, że moja mama czasami przewija Instagram Reels, a wielu naszych rodziców i dziadków nie zawsze potrafi odróżnić autentycznego ludzkiego świadectwa od tego, co jest generowane przez sztuczną inteligencję. To żeruje na bezbronności ludzi, którzy nie są w stanie dostrzec różnicy. Ogólnie rzecz biorąc, musimy po prostu być świadomi treści, które konsumujemy i naprawdę patrzeć na rzeczy przez pryzmat: „Czy to jest prawdziwe, czy nie?”

Jedną rzeczą, którą to doświadczenie naprawdę mi potwierdziło, jest to, że kiedy wprowadzam dzieci na ten świat, chcę aktywnie starać się nie dzielić nimi online ani w żaden sposób nie narażać ich bezpieczeństwa. Każdy, kto umieszcza cokolwiek w internecie, jest narażony na ryzyko — nie ma znaczenia, czy jesteś influencerem z obserwującymi, czy po prostu kimś, kto ma gdzieś w sieci filmik z nimi.

Szczerze mówiąc, dla mnie to wszystko jest po prostu zabawną historią. Dziwne, że to nie jest prawdziwa osoba. Nawet nie wiedziałem, że istnieją influencerzy AI, ale myślę, że staną się bardziej popularni, ponieważ marka nie musi płacić fałszywemu influencerowi. Naprawdę, po prostu nie mogę uwierzyć, że zostawili Andy'ego w filmie, a mnie nie. To takie niegrzeczne.

Wywiad został zredagowany i skrócony w celu zwiększenia przejrzystości.

Madison Feller

Zastępca redaktora ds. cyfrowych

Madison jest zastępcą redaktora cyfrowego w ELLE.com, gdzie zajmuje się również wiadomościami, polityką i kulturą. Jeśli nie jest online, prawdopodobnie śpi lub stara się nie spaść podczas wspinaczki.