Filmy AI przedstawiające czarnoskóre kobiety jako „Wielką Stopę” stają się viralem

Wygenerowana przez sztuczną inteligencję „wielka stopa”, z akrylowymi paznokciami i różową peruką, przemawia bezpośrednio do swojej wyimaginowanej publiczności za pomocą iPhone'a. „Może będziemy musieli uciekać”, mówi. „Jestem poszukiwana za fałszywy raport na temat ojca mojego dziecka”. Ten film AI, wygenerowany przez Veo 3 firmy Google, zgromadził ponad milion wyświetleń na Instagramie . To tylko jeden z wielu wirusowych postów na Instagramie i TikToku oglądanych przez WIRED, które przedstawiają czarnoskóre kobiety jako naczelne i utrwalają rasistowskie stereotypy za pomocą narzędzi wideo AI .

Veo 3 firmy Google odniosło sukces wśród odbiorców online, gdy zostało zaprezentowane na konferencji deweloperów firmy w maju. Surrealistyczne pokolenia biblijnych postaci i kryptyd, takich jak Wielka Stopa, tworzące vlogi w stylu influencerów, szybko rozprzestrzeniły się w mediach społecznościowych. Vlogi o Wielkiej Stopie generowane przez sztuczną inteligencję były nawet wykorzystywane przez Google jako argument sprzedaży w reklamach promujących nową funkcję.

Dzięki „wielkim stopom złoczyńców” twórcy internetowi biorą to, co było dość nieszkodliwym trendem w mediach społecznościowych i wykorzystują go ponownie, aby odczłowieczyć czarnoskóre kobiety. „Istnieje historyczny precedens, dla którego jest to obraźliwe. Na początku niewolnictwa czarnoskórzy ludzie byli przesadnie wyolbrzymiani w ilustracjach, aby podkreślić pierwotne cechy” — mówi Nicol Turner Lee , dyrektor Centrum Innowacji Technologicznych w Brookings Institution.

„To zarówno obrzydliwe, jak i niepokojące, że takie rasistowskie motywy i obrazy są łatwo dostępne do projektowania i rozpowszechniania na platformach internetowych” – mówi Turner Lee.

Jedno z najpopularniejszych kont na Instagramie publikujących te wygenerowane klipy ma pięć filmów z ponad milionem wyświetleń, mniej niż miesiąc po pierwszym poście na koncie. Filmy AI przedstawiają hybrydy zwierząt i kobiet mówiące karykaturalnie afrykańsko-amerykańskim językiem potocznym, a postacie często pokazywane są w czepkach i grożące walką z ludźmi. W jednym klipie pokolenie AI, używając wiejskiego akcentu, sugeruje, że wyciągnęła butelkę likieru Hennessy, którą przechowywała w genitaliach.

Veo 3 może stworzyć wszystko, co widać w filmach takich jak ten, scenerię, dźwięk mówiony, same postacie, z jednego polecenia. Biografia popularnego konta na Instagramie zawiera link do kursu online za 15 USD, w którym można nauczyć się, jak tworzyć podobne filmy. W filmach o tytułach takich jak „Veo 3 wykonuje ciężką pracę” trzech nauczycieli używa narracji, aby przeprowadzić uczniów przez proces podpowiadania narzędziu wideo AI do klipów z wielką stopą i tworzenia spójnych postaci. Adres e-mail wymieniony jako administrator kursu online odsyłał wiadomości, gdy WIRED próbował skontaktować się z twórcami.

Rzecznik Meta, właściciela Instagrama, odmówił komentarza w tej sprawie. Google i TikTok potwierdziły prośbę WIRED o komentarz, ale nie wydały oświadczenia przed publikacją.

Nasza analiza mediów społecznościowych wykazała, że ​​konta naśladowcze na Instagramie i TikToku repostowały klipy „bigfoot baddie” lub generowały podobne filmy. Repost jednego filmu na Instagramie ma 1 milion wyświetleń na stronie memów skupionej na sztucznej inteligencji. Inne konto na Instagramie ma inny film „bigfoot baddie” z prawie 3 milionami wyświetleń. Nie dotyczy to tylko Instagrama; konto na TikToku poświęcone podobnym treściom generowanym przez sztuczną inteligencję ma obecnie ponad 1 milion polubień. Te konta nie odpowiedziały natychmiast na prośbę o komentarz.

„Jeśli umrę tutaj, lepiej, żebym zmartwychwstała z BBL” – mówi wygenerowana przez AI kobieca wielka stopa na innym koncie, rozmawiając z kamerą, unikając bomb podczas wakacji w Izraelu. „Jednym z problemów z generatywną sztuczną inteligencją jest to, że twórcy narzędzi AI nie są w stanie wyobrazić sobie wszystkich sposobów, w jakie ludzie mogą być dla siebie okropni” – mówi Meredith Broussard, profesor na Uniwersytecie Nowojorskim i autorkaMore Than a Glitch , książki o uprzedzeniach w technologii. „Więc nie mogą postawić wystarczającej liczby barier ochronnych. To dokładnie ten sam problem, który widzieliśmy na platformach mediów społecznościowych”.

Po kliknięciu kilku filmików z Wielką Stopą w roli głównej, kanał Instagram Reels dla naszego konta testowego został wkrótce wypełniony przez algorytm innymi rasistowskimi filmami — w tym sztuczną inteligencją przedstawiającą czarnoskórego mężczyznę na łodzi rybackiej, który z ekscytacją łapie kawałek smażonego kurczaka i nazywa szympansa swoim synem.

Chociaż te filmy z AI są irytujące, niekoniecznie zaskakujące. W 2023 r., gdy wygenerowany przez AI film przedstawiający Willa Smitha jedzącego spaghetti stał się popularny w mediach społecznościowych, starszy autor WIRED Jason Parham rozłożył film na czynniki pierwsze jako formę minstrelsy. „Nadchodząca era nowych minstrelsy przybierze jeszcze bardziej przebiegłą formę kameleona, adaptacyjną i natychmiastową w swojej przebiegłości, od humanistycznych deepfake'ów i celnych manipulacji głosem po wszelkiego rodzaju cyfrowe oszustwa” — napisał wówczas Parham.

Dzięki tej najnowszej fali generatywnych narzędzi wideo AI, na czele z Veo 3 firmy Google, nigdy nie było łatwiej produkować fotorealistyczne filmy AI. Łatwość generowania wielu filmów w połączeniu z ciągłym rozprzestrzenianiem się AI slop na platformach mediów społecznościowych jest częścią tego, co spopularyzowało tych „wielkich złoczyńców”. Więcej trendów w mediach społecznościowych, w których twórcy używają AI do atakowania grup mniejszościowych, prawdopodobnie będzie kontynuowanych. „AI nie tylko ułatwiło manipulowanie obrazami”, mówi Turner Lee. „Ale sam algorytm i ekologia algorytmu ułatwiły również udostępnianie lub zwiększanie konsumpcji tej treści”.