Des vidéos de femmes noires représentées comme « Bigfoot » deviennent virales

Une « méchante Bigfoot » générée par l'IA , avec des ongles en acrylique et une perruque rose, s'adresse directement à son public imaginaire via un iPhone. « On va peut-être devoir fuir », dit-elle. « On me recherche pour une fausse information sur le père de mon bébé. » Cette vidéo générée par l'IA par Veo 3 de Google a cumulé plus d'un million de vues sur Instagram . Ce n'est qu'une des nombreuses publications virales sur Instagram et TikTok consultées par WIRED qui dépeignent les femmes noires comme des primates et perpétuent des clichés racistes grâce à des outils vidéo basés sur l'IA .

La Veo 3 de Google a rencontré un franc succès auprès du public en ligne lors de sa présentation lors de la conférence des développeurs de l'entreprise en mai. Des générations surréalistes de personnages bibliques et de cryptides, comme Bigfoot, réalisant des vlogs inspirés des influenceurs, se sont rapidement répandues sur les réseaux sociaux. Les vlogs Bigfoot générés par l'IA ont même été utilisés par Google comme argument de vente dans les publicités promouvant la nouvelle fonctionnalité.

Avec les « méchants Bigfoot », les créateurs en ligne s'emparent d'une tendance autrefois anodine sur les réseaux sociaux et la détournent pour déshumaniser les femmes noires. « Il existe un précédent historique qui explique pourquoi c'est offensant. Aux débuts de l'esclavage, les Noirs étaient exagérément représentés dans les illustrations pour mettre en valeur leurs caractéristiques primitives », explique Nicol Turner Lee , directrice du Centre pour l'innovation technologique de la Brookings Institution.

« Il est à la fois dégoûtant et dérangeant que ces clichés et images racistes soient facilement accessibles et puissent être conçus et distribués sur des plateformes en ligne », déclare Turner Lee.

L'un des comptes Instagram les plus populaires publiant ces clips générés par l'IA compte cinq vidéos cumulant plus d'un million de vues, moins d'un mois après leur première publication. Ces vidéos montrent des hybrides animal-femme parlant un anglais vernaculaire afro-américain de manière caricaturale, souvent coiffés d'un bonnet et menaçant de se battre. Dans l'un des clips, la génération IA, avec un accent campagnard, suggère qu'elle a sorti une bouteille de Hennessy stockée dans ses parties génitales.

Veo 3 peut créer tout ce que l'on voit dans des vidéos comme celle-ci, du décor à la bande sonore, en passant par les personnages eux-mêmes, à partir d'une seule invite. La bio de ce compte Instagram populaire inclut un lien vers un cours en ligne à 15 $ où vous apprendrez à créer des vidéos similaires. Dans des vidéos intitulées comme « Veo 3 fait le gros du travail », trois enseignants utilisent la voix off pour guider les élèves dans le processus d'utilisation de l'outil vidéo d'IA pour les clips Bigfoot et la création de personnages cohérents. L'adresse e-mail indiquée comme administrateur du cours en ligne a renvoyé des messages lorsque WIRED a tenté de contacter les créateurs.

Un porte-parole de Meta, propriétaire d'Instagram, a refusé de commenter l'information. Google et TikTok ont ​​tous deux pris acte de la demande de commentaires de WIRED, mais n'ont pas fourni de déclaration avant la publication.

Notre analyse des réseaux sociaux a révélé que des comptes imitateurs sur Instagram et TikTok republiaient les clips du « Bigfoot Baddie » ou généraient des vidéos similaires. La republication d'une vidéo sur Instagram a cumulé 1 million de vues sur une page de mèmes axée sur l'IA. Un autre compte Instagram a publié une autre vidéo du « Bigfoot Baddie » avec près de 3 millions de vues. Ce phénomène ne se limite pas à Instagram ; un compte TikTok dédié à des contenus similaires générés par l'IA cumule actuellement plus d'un million de likes. Ces comptes n'ont pas immédiatement répondu à une demande de commentaire.

« Si je meurs ici, autant que je ressuscite avec un BBL », déclare une femelle bigfoot générée par l'IA sur un autre compte, s'adressant à la caméra tout en esquivant des bombes lors de ses vacances en Israël. « L'un des problèmes de l'IA générative, c'est que les créateurs d'outils d'IA ne peuvent pas concevoir toutes les manières dont les gens peuvent se montrer désagréables les uns envers les autres », explique Meredith Broussard, professeure à l'Université de New York et auteure deMore Than a Glitch , un livre sur les biais technologiques. « Du coup, ils ne peuvent pas mettre en place suffisamment de garde-fous. C'est exactement le même problème que nous avons constaté sur les réseaux sociaux. »

Après avoir cliqué sur quelques vidéos de Bigfoot femelles, le flux Instagram Reels de notre compte de test a rapidement été rempli par l'algorithme avec d'autres vidéos racistes, y compris une génération par l'IA d'un homme noir sur un bateau de pêche attrapant avec enthousiasme un morceau de poulet frit et faisant référence à un chimpanzé comme étant son fils.

Si ces vidéos IA sont dérangeantes, elles ne sont pas forcément surprenantes. En 2023, alors qu'une vidéo générée par IA de Will Smith en train de manger des spaghettis devenait virale sur les réseaux sociaux, Jason Parham, rédacteur principal de WIRED, a décortiqué la vidéo et l'a qualifiée de ménestrel. « Cette nouvelle ère de ménestrel prendra une forme caméléon encore plus rusée, adaptative et immédiate dans sa ruse, allant des deepfakes humanistes et des manipulations vocales précises à toutes sortes de tromperies numériques », écrivait Parham à l'époque.

Grâce à cette nouvelle vague d'outils vidéo génératifs basés sur l'IA, pilotés par Veo 3 de Google, produire des vidéos photoréalistes n'a jamais été aussi simple. La facilité de génération de nombreuses vidéos, associée à la diffusion constante de contenus IA sur les réseaux sociaux, explique en partie la popularisation de ces « méchants bigfoot ». Les tendances sur les réseaux sociaux où les créateurs utilisent l'IA pour attaquer les minorités vont probablement perdurer. « L'IA a non seulement simplifié la manipulation des images », explique Turner Lee. « L'algorithme lui-même, et son écologie, ont également facilité le partage et la consommation de ce contenu. »