Vídeos de mulheres negras retratadas como "Pé Grande" estão se tornando virais

Uma "vilã do pé grande" gerada por IA , com unhas de acrílico e uma peruca rosa, fala diretamente com seu público imaginário usando um iPhone. "Talvez tenhamos que fugir", diz ela. "Estou sendo procurada por uma denúncia falsa sobre o pai do meu bebê." Este vídeo de IA, gerado pelo Veo 3 do Google, já acumulou mais de um milhão de visualizações no Instagram . É apenas uma das muitas postagens virais no Instagram e no TikTok visualizadas pela WIRED que retratam mulheres negras como primatas e perpetuam clichês racistas usando ferramentas de vídeo de IA .

O Veo 3, do Google, foi um sucesso entre o público online quando foi lançado na conferência de desenvolvedores da empresa em maio. Gerações surreais de personagens bíblicos e criptídeos, como o Pé Grande, fazendo vlogs no estilo influenciador rapidamente se espalharam pelas redes sociais. Vlogs do Pé Grande gerados por IA foram até usados ​​pelo Google como argumento de venda em anúncios que promoviam o novo recurso.

Com "bigfoot baddies" (bandidos do Pé Grande), criadores online estão pegando o que era uma tendência bastante inócua nas mídias sociais e a reutilizando para desumanizar mulheres negras. "Há um precedente histórico por trás da ofensa. Nos primórdios da escravidão, os negros eram exagerados em ilustrações para enfatizar características primitivas", diz Nicol Turner Lee , diretora do Centro de Inovação Tecnológica da Brookings Institution.

“É repugnante e perturbador que esses tropos e imagens raciais estejam facilmente disponíveis para serem criados e distribuídos em plataformas online”, diz Turner Lee.

Uma das contas mais populares do Instagram que publica esses clipes gerados tem cinco vídeos com mais de um milhão de visualizações, menos de um mês após a primeira publicação da conta. Os vídeos da IA ​​mostram os híbridos de animais e mulheres falando inglês vernacular afro-americano de forma caricata, com os personagens frequentemente usando um gorro e ameaçando brigar com as pessoas. Em um clipe, a geração da IA, usando um sotaque caipira, insinua que tirou uma garrafa de bebida Hennessy que estava armazenada em seus genitais.

O Veo 3 pode criar tudo o que se vê em vídeos como este, desde o cenário até o áudio falado e os próprios personagens, a partir de uma única mensagem. A biografia da popular conta do Instagram inclui um link para um curso online de US$ 15, onde você pode aprender a criar vídeos semelhantes. Em vídeos com títulos como "Veo 3 faz o trabalho pesado", três professores usam narração para orientar os alunos no processo de ativar a ferramenta de vídeo de IA para clipes do Pé Grande e criar personagens consistentes. O endereço de e-mail listado como administrador do curso online retornou mensagens quando a WIRED tentou entrar em contato com os criadores.

Um porta-voz da Meta, dona do Instagram, não quis comentar oficialmente. O Google e o TikTok reconheceram o pedido de comentário da WIRED, mas não forneceram nenhuma declaração antes da publicação.

Nossa análise de mídias sociais encontrou contas imitadoras no Instagram e no TikTok repostando os clipes do "bigfoot baddie" ou gerando vídeos semelhantes. A repostagem de um vídeo no Instagram tem 1 milhão de visualizações em uma página de memes focada em IA. Outra conta do Instagram tem outro vídeo do "bigfoot baddie" com quase 3 milhões de visualizações. Não é só no Instagram; uma conta no TikTok dedicada a conteúdo semelhante gerado por IA tem atualmente mais de 1 milhão de curtidas. Essas contas não responderam imediatamente a um pedido de comentário.

"Se eu morrer aqui, é melhor eu ressuscitar com um BBL", diz uma pé-grande fêmea gerada por IA em outra conta, falando para a câmera enquanto desvia de bombas durante férias em Israel. "Um dos problemas com a IA generativa é que os criadores de ferramentas de IA não conseguem conceber todas as maneiras pelas quais as pessoas podem ser horríveis umas com as outras", diz Meredith Broussard, professora da Universidade de Nova York e autora deMore Than a Glitch , um livro sobre vieses em tecnologia. "Então, eles não conseguem colocar um número suficiente de barreiras de proteção. É exatamente o mesmo problema que vimos nas plataformas de mídia social."

Depois de clicar em alguns vídeos de mulheres com o Pé Grande, o feed do Instagram Reels da nossa conta de teste foi logo preenchido pelo algoritmo com outros vídeos racistas, incluindo uma geração de IA de um homem negro em um barco de pesca pegando animadamente um pedaço de frango frito e se referindo a um chimpanzé como seu filho.

Embora esses vídeos de IA sejam perturbadores, eles não são necessariamente surpreendentes. Em 2023, quando um vídeo gerado por IA de Will Smith comendo espaguete viralizou nas redes sociais, o redator sênior da WIRED, Jason Parham, dissecou o vídeo como uma forma de menestrel. "Esta nova era de menestréis assumirá uma forma camaleônica ainda mais astuta, adaptável e imediata em sua astúcia, desde deepfakes humanísticos e manipulações de voz precisas até todos os tipos de engano digital", escreveu Parham na época.

Com esta nova onda de ferramentas de vídeo com IA generativa, lideradas pelo Veo 3 do Google, nunca foi tão fácil produzir vídeos com IA fotorrealistas. A facilidade de gerar inúmeros vídeos, aliada à disseminação consistente de lixo de IA nas plataformas de mídia social, é parte do que popularizou esses "vilões pé-grande". É provável que continuem as tendências de mídia social em que criadores usam IA para atacar grupos minoritários. "A IA não apenas facilitou a manipulação de imagens", diz Turner Lee. "Mas o próprio algoritmo e sua ecologia também facilitaram o compartilhamento ou o aumento do consumo desse conteúdo."