Conflito entre Israel e Irã desencadeia onda de desinformação sobre IA
Uma onda de desinformação foi desencadeada online desde que Israel começou os ataques ao Irã na semana passada, com dezenas de postagens revisadas pela BBC Verify buscando ampliar a eficácia da resposta de Teerã.
Nossa análise encontrou diversos vídeos — criados com inteligência artificial — que se gabam das capacidades militares do Irã, além de clipes falsos mostrando as consequências dos ataques a alvos israelenses. Os três vídeos falsos mais vistos encontrados pela BBC Verify acumularam, juntos, mais de 100 milhões de visualizações em diversas plataformas.
Contas pró-Israel também compartilharam desinformação online, principalmente recirculando clipes antigos de protestos e reuniões no Irã, alegando falsamente que eles mostram crescente dissidência contra o governo e apoio entre os iranianos à campanha militar de Israel.
Israel lançou ataques no Irã em 13 de junho, levando a várias rodadas de ataques com mísseis e drones iranianos contra Israel.
Uma organização que analisa imagens de código aberto descreveu o volume de desinformação online como "assombroso" e acusou alguns "agricultores de engajamento" de tentar lucrar com o conflito compartilhando conteúdo enganoso criado para atrair atenção online.
"Estamos vendo de tudo, desde filmagens não relacionadas do Paquistão até vídeos reciclados dos ataques de outubro de 2024 — alguns dos quais acumularam mais de 20 milhões de visualizações — bem como clipes de jogos e conteúdo gerado por IA sendo passados como eventos reais", escreveu o grupo de verificação online Geoconfirmed no X.
Certas contas se tornaram "superdisseminadoras" de desinformação, sendo recompensadas com um crescimento significativo no número de seguidores. Uma conta pró-iraniana sem vínculos óbvios com autoridades em Teerã – o Daily Iran Military – viu seus seguidores no X crescerem de pouco mais de 700.000 em 13 de junho para 1,4 milhão em 19 de junho, um aumento de 85% em menos de uma semana.
Esta é uma das muitas contas obscuras que apareceram nos feeds das pessoas recentemente. Todas têm marcas azuis, são prolíficas em mensagens e publicaram repetidamente desinformação. Como algumas usam nomes aparentemente oficiais, algumas pessoas presumiram que eram contas autênticas, mas não está claro quem realmente administra os perfis.
A torrente de desinformação marcou "a primeira vez que vimos IA generativa ser usada em larga escala durante um conflito", disse Emmanuelle Saliba, diretora de investigação do grupo de analistas Get Real, à BBC Verify.
Contas analisadas pela BBC Verify frequentemente compartilhavam imagens geradas por IA que pareciam tentar exagerar o sucesso da resposta do Irã aos ataques israelenses. Uma imagem, com 27 milhões de visualizações, mostrava dezenas de mísseis caindo sobre a cidade de Tel Aviv.
Outro vídeo supostamente mostrava um ataque de míssil contra um prédio na cidade israelense tarde da noite. A Sra. Saliba disse que os vídeos frequentemente retratam ataques noturnos, o que os torna especialmente difíceis de verificar.
As falsificações de IA também se concentraram em alegações de destruição de caças israelenses F-35, um avião de última geração fabricado nos EUA, capaz de atingir alvos terrestres e aéreos. Se a enxurrada de vídeos fosse real, o Irã teria destruído 15% da frota israelense de caças, disse Lisa Kaplan, CEO do grupo de análise Alethea, à BBC Verify. Ainda não autenticamos nenhuma filmagem de caças F-35 sendo abatidos.
Uma publicação amplamente compartilhada alegava mostrar um jato danificado após ser abatido no deserto iraniano. No entanto, sinais de manipulação de IA eram evidentes: os civis ao redor do jato eram do mesmo tamanho dos veículos próximos, e a areia não apresentava sinais de impacto.
Outro vídeo com 21,1 milhões de visualizações no TikTok alegava mostrar um F-35 israelense sendo abatido pelas defesas aéreas, mas a filmagem, na verdade, era de um simulador de voo. O TikTok removeu a filmagem após ser contatado pela BBC Verify.
A Sra. Kaplan disse que parte do foco nos F-35s estava sendo impulsionado por uma rede de contas que a Alethea havia vinculado anteriormente a operações de influência russa.
Ela observou que as operações de influência russa mudaram recentemente de curso, deixando de tentar minar o apoio à guerra na Ucrânia e passando a semear dúvidas sobre a capacidade dos armamentos ocidentais, especialmente os americanos.
"A Rússia não tem realmente uma resposta ao F-35. Então, o que pode fazer? Pode tentar minar o apoio a ele em certos países", disse a Sra. Kaplan.
A desinformação também está sendo disseminada por contas bem conhecidas que já comentaram sobre a guerra entre Israel e Gaza e outros conflitos.
As motivações variam, mas especialistas disseram que alguns podem estar tentando monetizar o conflito, com algumas das principais plataformas de mídia social oferecendo pagamentos para contas que alcançam um grande número de visualizações.
Em contrapartida, as publicações pró-Israel têm-se concentrado principalmente em sugestões de que o governo iraniano enfrenta uma crescente dissidência à medida que os ataques continuam
Entre eles está um vídeo gerado por IA amplamente compartilhado que falsamente pretende mostrar iranianos gritando "nós amamos Israel" nas ruas de Teerã.
No entanto, nos últimos dias – e à medida que crescem as especulações sobre ataques americanos a instalações nucleares iranianas – algumas contas começaram a publicar imagens geradas por IA de bombardeiros B-2 sobre Teerã. O B-2 tem atraído muita atenção desde o início dos ataques israelenses ao Irã, por ser a única aeronave capaz de realizar efetivamente um ataque às instalações nucleares subterrâneas do Irã .
Fontes oficiais no Irã e em Israel compartilharam algumas das imagens falsas. A mídia estatal em Teerã compartilhou imagens falsas de ataques e uma imagem gerada por IA de um jato F-35 abatido, enquanto uma publicação compartilhada pelas Forças de Defesa de Israel (IDF) recebeu uma nota da comunidade no X por usar imagens antigas e não relacionadas de barragens de mísseis.
Muitas das desinformações analisadas pela BBC Verify foram compartilhadas no X, com usuários frequentemente recorrendo ao chatbot de IA da plataforma — Grok — para estabelecer a veracidade das postagens.
No entanto, em alguns casos, Grok insistiu que os vídeos de IA eram reais. Um desses vídeos mostrou um fluxo interminável de caminhões carregando mísseis balísticos emergindo de um complexo na encosta de uma montanha. Sinais reveladores de conteúdo de IA incluíam rochas se movendo espontaneamente no vídeo, disse a Sra. Saliba.
Mas, em resposta aos usuários X, Grok insistiu repetidamente que o vídeo era real e citou reportagens de veículos de comunicação como a Newsweek e a Reuters. "Verifique notícias confiáveis para maior clareza", concluiu o chatbot em várias mensagens.
X não respondeu a um pedido de comentário do BBC Verify sobre as ações do Chatbot.
Muitos vídeos também apareceram no TikTok e no Instagram. Em declaração à BBC Verify, o TikTok afirmou que aplica proativamente as diretrizes da comunidade "que proíbem conteúdo impreciso, enganoso ou falso" e que trabalha com verificadores de fatos independentes para "verificar conteúdo enganoso".
O proprietário do Instagram, Meta, não respondeu a um pedido de comentário.
Embora as motivações daqueles que criam falsificações online variem, muitas são compartilhadas por usuários comuns de mídias sociais.
Matthew Facciani, pesquisador da Universidade de Notre Dame, sugeriu que a desinformação pode se espalhar mais rapidamente online quando as pessoas se deparam com escolhas binárias, como aquelas levantadas por conflitos e política.
"Isso aborda a questão social e psicológica mais ampla de pessoas que querem compartilhar coisas se isso estiver alinhado com sua identidade política e também, de modo geral, conteúdo emocional mais sensacionalista se espalhará mais rapidamente online."
BBC
