A desinformação do chatbot que está inflamando os protestos em Los Angeles

Nos últimos dias, moradores de Los Angeles foram às ruas para protestar contra as políticas de imigração do governo Trump e as batidas cada vez mais frequentes do ICE. A editora sênior de política da WIRED, Leah Feiger, se junta a Zoë Schiffer, diretora de negócios e indústria, para discutir a enxurrada de informações nas mídias sociais e como chatbots de IA como Grok e ChatGPT estão fornecendo respostas incorretas e, às vezes, inflamatórias.

Mencionado no episódio de hoje: Chatbots de IA estão piorando a desinformação dos protestos em Los Angeles , por David Gilbert Eu entrei em todas as ações coletivas que consegui encontrar, e você também pode , por Andy Vasoyan A codificação Vibe está chegando para empregos de engenharia , por Will Knight

Você pode seguir Zoë Schiffer no Bluesky em @zoeschiffer . Escreva para [email protected] .

Você sempre pode ouvir o podcast desta semana pelo player de áudio nesta página, mas se quiser assinar gratuitamente para receber todos os episódios, veja como:

Se você usa um iPhone ou iPad, abra o aplicativo Podcasts ou simplesmente toque neste link . Você também pode baixar um aplicativo como o Overcast ou o Pocket Casts e procurar por "Uncanny Valley". Também estamos no Spotify .

Observação: esta é uma transcrição automatizada, que pode conter erros.

Zoë Schiffer: Aqui é a Zoë. Antes de começarmos, quero aproveitar a oportunidade para lembrar que queremos muito ouvir você. Se você tiver alguma dúvida sobre IA, política ou privacidade que esteja em sua mente, ou um tópico que gostaria que abordássemos no programa, pode nos escrever em [email protected] e, se ouvir nossos episódios e gostar deles, por favor, avalie-os no aplicativo de podcast de sua escolha. Isso realmente ajuda as pessoas a nos encontrar. Bem-vindos ao Vale Estranho da WIRED. Sou a diretora de negócios e indústria da WIRED, Zoë Schiffer. Hoje, no programa, vamos nos aprofundar em como os chatbots de IA estão alimentando a desinformação sobre os protestos em andamento em Los Angeles. Nos últimos dias, os moradores de Los Angeles foram às ruas para protestar contra as políticas de imigração do governo Trump e as batidas cada vez mais frequentes do ICE. As mídias sociais estão cheias de informações e vídeos sobre os protestos, enquanto as pessoas tentam verificar os fatos e o que realmente está acontecendo. Chatbots de IA como Grok e ChatGPT estão dando respostas incorretas e, às vezes, inflamatórias. Discutiremos como esse padrão vem se desenvolvendo e as consequências que pode ter neste momento político. Hoje, estou com Leah Feiger, editora sênior de política da WIRED. Leah, bem-vinda ao programa.

Leah Feiger: Obrigada por me receber, Zoë.

Zoë Schiffer: Desde o último fim de semana, esses grandes protestos ocorreram em Los Angeles, então talvez seja melhor começarmos com um nível bem alto do que está acontecendo.

Leah Feiger: Então, na semana passada, protestos eclodiram em Los Angeles após batidas do ICE em toda a cidade, e a princípio foram menores do que as pessoas alegavam online. Eles diziam: "Há hordas de pessoas. Eles tomaram Los Angeles. Isso é selvagem." A verdade é que esses protestos ocorreram em áreas muito específicas e muito ligadas às batidas do ICE. Mas, no fim de semana, as coisas mudaram. Trump convocou a Guarda Nacional, para grande desgosto do governador da Califórnia, Gavin Newsom, e houve muita discussão online sobre os direitos dos estados versus direitos federais versus como tudo isso estava sendo retratado. Muitas prisões, muitas pessoas realmente chateadas com as políticas de imigração bastante controversas deste governo e algumas imagens bastante desanimadoras das batidas do ICE, não apenas em Los Angeles, mas em todo o país. Então, isso vem fervendo há algum tempo, e Los Angeles é realmente um dos primeiros lugares onde estamos vendo esse tipo de resposta.

Zoë Schiffer: Sim, quer dizer, acho que foi isso que realmente me chamou a atenção desde o início. Parece a primeira vez que vemos uma onda de oposição ao governo Trump de forma tão veemente, de uma forma que eu acho que esperávamos ver em vários momentos deste governo desde janeiro. Mas até agora não vimos, apesar do fato de que o que eles têm feito, o que eles têm dito é bastante incomum em comparação com a forma como a política normalmente funciona.

Leah Feiger: Com certeza. Tem sido meio selvagem, e obviamente houve o movimento de protesto "Tesla Takedown" e alguns protestos menores que aconteceram bem quando o DOGE, o chamado Departamento de Eficiência Governamental de Elon Musk, estava começando. Mas você está totalmente certa, não houve nada específico assim, e parte disso se deve ao fato de ser incrivelmente pessoal. Estamos ouvindo histórias de manifestantes sobre seus familiares terem sido levados pelo ICE e não termos mais notícias deles. Houve alguns perfis incríveis em todo o país de pessoas chocadas com o fato de seus vizinhos terem sido retirados das ruas. E, novamente, o governo tem dito que fará isso o tempo todo. A grande diferença aqui é, primeiro, a resposta das pessoas da comunidade em Los Angeles e, segundo, o fato de que isso agora está se tornando uma questão de direitos estaduais versus federal.

Zoë Schiffer: E eu sinto que, à medida que isso se desenrola, até mesmo para você e para mim, temos tentado descobrir, como você disse, o que realmente está acontecendo aqui? O que está acontecendo? E então, uma das coisas que eles têm feito, bem em 2025, é recorrer a chatbots, perguntando ao ChatGPT, perguntando ao Grok: "O que está acontecendo aqui?". Então, quais são algumas dessas perguntas que as pessoas estão tentando obter respostas, e o que está acontecendo quando elas conversam com chatbots sobre o que está acontecendo?

Leah Feiger: Certo. Uma opinião um pouco controversa para começar. Acho que há algo incrivelmente puro em pessoas que veem uma foto ou um vídeo nas redes sociais e pensam: "Espera aí, isso é real? Isso é verdade?". Isso é até bom. Para mim, isso é bom.

Zoë Schiffer: Sim, educação midiática.

Leah Feiger: Alfabetização midiática. Estamos falando disso há tanto tempo. Mas o pior é que esses chatbots simplesmente não estão à altura do desafio. Posso dar um exemplo? Tudo bem?

Zoë Schiffer: Por favor, por favor.

Leah Feiger: OK. Então, obviamente, essas pessoas foram às ruas após essas batidas do ICE, e manifestantes conservadores inundaram seus feeds com informações imprecisas. Eles postaram imagens antigas de protestos, clipes de videogames, filmes, alegando que havia todos esses agitadores. Tem sido muito. E, como resultado, as pessoas têm recorrido a chatbots de IA como o Grok, etc. Então, um desses casos específicos foi quando o governo federal enviou 2.000 soldados da Guarda Nacional; o SF Chronicle publicou uma foto desses soldados dormindo no chão. Essas imagens foram compartilhadas pelo governador Newsom, que disse: "Vocês literalmente enviaram essas tropas para o nosso estado sem que solicitássemos, isso está incitando completamente essa situação, e agora eles não têm onde dormir". Logo depois que Newsom compartilhou isso, muitas pessoas alegaram no X, no Facebook, que essas imagens eram fabricadas, geradas por IA ou que faziam referência a um evento totalmente diferente. E não estamos falando apenas de manifestantes aleatórios. Estamos falando como Laura Loomer, a rainha dos conspiradores.

Zoë Schiffer: Nossa!

Leah Feiger: Sim, exatamente. Quem já tem a atenção do Trump? Isso se espalhou. E então as pessoas foram ao Grok do X e perguntaram: "Grok, o que é isso?". E o que o Grok disse a elas? Não, não. O Grok disse que essas imagens não eram realmente do protesto em Los Angeles. Disse que eram do Afeganistão.

Zoë Schiffer: Oh. Grok, não.

Leah Feiger: Eles disseram: "Não há suporte confiável. Isso é atribuição equivocada." Foi muito ruim. Foi muito, muito ruim. E então houve outra situação em que outras pessoas estavam compartilhando essas fotos com o ChatGPT, e o ChatGPT também disse: "É, isso é o Afeganistão. Isso não é preciso, etc., etc.". Não é ótimo.

Zoë Schiffer: Quer dizer, nem me fale sobre esse momento que vem depois que muitas dessas plataformas desmantelaram sistematicamente seus programas de checagem de fatos e decidiram propositalmente deixar passar muito mais conteúdo. E aí você adiciona chatbots à mistura que, para todos os seus usos, e eu acho que eles podem ser realmente úteis, são incrivelmente confiantes. Quando eles têm alucinações, quando erram, o fazem de uma forma muito convincente. Você não me verá aqui defendendo a Busca Google. Lixo absoluto, pesadelo, mas fica um pouco mais claro quando isso está indo para o lado errado, quando você está em algum blog aleatório e não confiável, do que quando Grok diz com total confiança que você está vendo uma foto do Afeganistão quando não está.

Leah Feiger: É realmente preocupante. Quer dizer, é alucinante. É totalmente alucinante, mas com a arrogância do universitário mais bêbado que, infelizmente, já te encurralou numa festa na vida.

Zoë Schiffer: Pesadelo. Pesadelo. É.

Leah Feiger: Eles dizem: "Não, não, não. Tenho certeza. Nunca tive tanta certeza na minha vida."

Zoë Schiffer: Com certeza. Quer dizer, OK, então por que os chatbots dão essas respostas incorretas com tanta confiança? Por que não os vemos simplesmente dizendo: "Bem, não sei, então talvez você deva procurar em outro lugar. Aqui estão alguns lugares confiáveis ​​para procurar essa resposta e essa informação."

Leah Feiger: Porque eles não fazem isso. Eles não admitem que não sabem, o que é realmente incrível para mim. Na verdade, existem muitos estudos sobre isso, e em um estudo recente sobre ferramentas de busca de IA no Tow Center for Digital Journalism da Universidade Columbia, descobriu-se que os chatbots eram "geralmente ruins em se recusar a responder perguntas que não conseguiam responder com precisão. Oferecendo, em vez disso, respostas incorretas ou especulativas". Realmente, realmente, realmente incrível, especialmente quando você considera o fato de que houve tantos artigos durante a eleição sobre: ​​"Ah, não, desculpe, eu sou o ChatGPT e não posso opinar sobre política". Você fica tipo, bem, você está opinando sobre muita coisa agora.

Zoë Schiffer: OK, acho que devemos parar por aqui nessa nota tão horrível e voltaremos já.

[quebrar]

Zoë Schiffer: Bem-vindos de volta ao Uncanny Valley . Estou hoje com Leah Feiger, editora sênior de política da WIRED. OK, então, além de apenas tentar verificar informações e filmagens, também houve uma série de relatos sobre vídeos enganosos gerados por IA. Havia uma conta no TikTok que começou a enviar vídeos de um suposto soldado da Guarda Nacional chamado Bob, que havia sido destacado para os protestos de Los Angeles, e você podia vê-lo dizendo coisas falsas e inflamatórias, como o fato de os manifestantes estarem "jogando balões cheios de óleo", e um dos vídeos teve quase um milhão de visualizações. Então, eu não sei, parece que as pessoas precisam se tornar um pouco mais hábeis em identificar esse tipo de filmagem falsa, mas é difícil em um ambiente inerentemente sem contexto como uma postagem no X ou um vídeo no TikTok.

Leah Feiger: Totalmente. E aquela transmissão ao vivo do TikTok que você mencionou, do Bob, que foi desmascarada pela BBC, eles a removeram. Acabou. Mas as pessoas, em resposta, dizem: "Meu Deus, isso é a grande mídia. Eles estão simplesmente fechando isso. Aqui está a informação". Então, quando você encontra a coisa, quando você a desmascara, ainda não é o suficiente. E eu tenho que voltar às questões de alfabetização midiática, e talvez seja por isso que os chatbots de IA que erram são tão perturbadores para mim, porque as pessoas, na verdade, não são todas, mas com certeza há algumas pessoas de boa-fé dizendo: "Isso é real? Por favor, alguém me diga se isso é real".

Zoë Schiffer: Ah, com certeza. É, eles querem saber. Eu sei. Minha mãe, coitada, me mostrou um vídeo outro dia de um bando de filhotes de preguiça idênticos olhando para a câmera. Ela disse: "Não são fofos? Achei isso no Facebook." E eu disse: "Mãe, essas preguiças não são de verdade. Precisamos seguir em frente." Ela ficou arrasada.

Leah Feiger: Acho que essa porcaria animal da IA ​​é algo que posso aceitar.

Zoë Schiffer: A única forma de IA que Leah gosta são os animais de IA.

Leah Feiger: Não, não, retiro o que disse. De qualquer forma, há menos riscos, mas sem dúvida ainda contribuindo para o fato de que o que é real? Não sei. Quem pode dizer? E a questão é que, de certa forma, já passamos por isso antes. Cinco anos atrás, foi em 2020, com os protestos de George Floyd em todo o país, e aqueles foram massivos, e aqueles foram grandes, e tivemos muitos problemas de desinformação. Muitas pessoas diziam: "Não, é isso. É este videogame. É isso". Mas, cinco anos depois, o cenário mudou completamente. Você ainda tem os mesmos maus atores, mas agora é muito mais confuso. A confiança na mídia caiu. A quem você recorre? Ao seu confiável chatbot de IA que foi integrado a todos os aplicativos de mídia social aos quais você tem acesso pessoal.

Zoë Schiffer: O que também eliminou os outros mecanismos de verificação de fatos. Então, aqui estamos.

Leah Feiger: Sim.

Zoë Schiffer: Já vimos isso acontecer várias vezes. Quer dizer, tem sido interessante porque Elon Musk demitiu grande parte da equipe de moderação de conteúdo do X, antigo Twitter. Ele também eliminou algumas das regras de moderação de conteúdo que a empresa passou anos avaliando, implementando e debatendo internamente. E como tivemos grandes eventos noticiosos acontecendo em tempo real, o tipo de coisa para a qual o Twitter foi criado, grandes terremotos, guerras, protestos, seja lá o que for, esses momentos em que antes você via todo mundo se aglomerando no X para descobrir o que estava acontecendo, você ainda vê pessoas tendo o mesmo comportamento, mas a capacidade de averiguar o que realmente está acontecendo naquela plataforma diminuiu muito nos últimos anos. Há boas informações, mas elas estão misturadas com todas essas informações horríveis, ruins e falsas, e é muito difícil dizer o que é o quê.

Leah Feiger: É uma bagunça, e eu não sou mais uma seguidora do X, mas entro com frequência para ver o que está acontecendo. É lixo. É uma combinação neste momento tão específico, porque o Elon Musk está de volta e postando sem parar sobre viagens espaciais, então é como se tivéssemos as postagens do Elon Musk no topo do meu feed. Temos Los Angeles em chamas, o fogo está se espalhando para o resto dos Estados Unidos, e ainda temos alguns jornalistas por aí dizendo: "Leiam minha história".

Zoë Schiffer: Não está dando certo? É.

Leah Feiger: E é tão triste. Sim.

Zoë Schiffer: Sim, quero dizer, se você é alguém que está tentando se tornar um influenciador X, o tipo de coisa que você precisa compartilhar é inerentemente um pouco divisivo, um pouco inflamatório, um pouco chocante. Em alguns casos, eles estão sendo pagos pela plataforma para postar esse tipo de conteúdo. Acho que existem algumas proteções em vigor. Se você tem uma nota da comunidade em uma postagem, não deveria receber dinheiro por isso, mas a estrutura de incentivos, como você mencionou, é criada para encorajar as pessoas a postarem as coisas mais malucas que puderem fazer, e é isso que estamos vendo agora.

Leah Feiger: Mas eu preciso dizer para quê? É para encher os bolsos dessas empresas e desses donos bilionários, mas os cartazes em si, tenho certeza de que muita gente já fez o golpe, mas saiu um artigo incrível no New York Times bem recentemente sobre uma empresa muito, muito estabelecida...

Zoë Schiffer: Certo.

Leah Feiger: Sim, o pôster no X. E ele disse: "Sou republicano e é com isso que me importo". Ele não tira férias nem fins de semana. Ele passa o dia inteiro no computador e ganha algo como menos de US$ 60.000 por ano. E eu me pergunto: qual é o incentivo? O incentivo é aquela dose incrível de serotonina quando um tuíte viraliza? Isso não dá para pagar as compras do supermercado? Então, o fato de Musk, Zuckerberg e todos esses caras terem conseguido convencer as pessoas de que este ainda é o lugar para se estar, com conteúdo mais incendiário e impreciso, é sem dúvida o maior golpe de todos.

Zoë Schiffer: Sim. Incrível. Certo, vamos fazer outra pausa rápida e, quando voltarmos, compartilharemos nossas recomendações do que conferir no WIRED.com esta semana.

[bico]

Zoë Schiffer: Bem-vindos de volta ao Vale Estranho . Sou Zoë Schiffer, diretora de negócios e indústria da WIRED. Hoje, estou acompanhado da editora sênior de política da WIRED, Leah Feiger. Antes de começarmos, Leah, diga aos nossos ouvintes o que eles realmente precisam ler no WIRED.com.

Leah Feiger: Eu realmente apoio essa recomendação. É um artigo de Andy Vasoyan intitulado "Entrei em todas as ações coletivas que encontrei, e você também pode". Ele atendeu a todos os anseios da pessoa. Quero saber se eu deveria receber aqueles US$ 5 a mais? Gostaria de saber. E este escritor conseguiu. Eles conseguiram. Eles estão no caminho certo. Eles conversam com pessoas envolvidas em conseguir dinheiro para outras pessoas, e essa estatística vai me assombrar para sempre: algo como 4% dessas ações coletivas, o que sai, são realmente reivindicadas por pessoas que merecem. Devastador.

Zoë Schiffer: Eu sei. Eu faço parte disso. Recebo bastante essas cartas. O que eu recebi recentemente?

Leah Feiger: Zoë, você é parte do problema. Pega esses 7 dólares, Zoë.

Zoë Schiffer: Eu sei.

Leah Feiger: Agora eles podem usar o Venmo.

Zoë Schiffer: Fiz isso uma vez e custou uns US$ 2, e eu pensei: "Ok, acho que minha expectativa era ganhar uns US$ 3.000", mas pensei: "Não foi isso que aconteceu".

Leah Feiger: Certo. Não, isso é uma longa jornada. É um jogo. Certo, qual é o seu? Qual é a sua coisa favorita?

Zoë Schiffer: Minha recomendação é uma matéria que publicamos esta semana por Will Knight, nosso repórter de IA. Ela fala sobre como a codificação de vibração está chegando para empregos de engenharia, e ela é muito, muito boa. Temos conversado com engenheiros de todo o Vale do Silício, ouvindo sobre o que eles estão chamando de apocalipse da engenharia que está chegando porque os agentes de codificação de IA estão ficando muito, muito bons. Mas, na verdade, quando Will fez a reportagem, é muito mais complicado. As pessoas disseram que era como dar uma serra elétrica a uma criança pequena e que você poderia criar coisas realmente incríveis. Sim, você pode codificar um aplicativo e um site inteiros apenas conversando com um chatbot, mas também pode criar um código com muitos bugs, um código que tem todos os tipos de vulnerabilidades de segurança. E as pessoas disseram: "Ele quebra totalmente assim que você se importa com a funcionalidade do aplicativo que está construindo."

Leah Feiger: Estou suando frio agora.

Zoë Schiffer: Eu sei. Eu sei. Eu pensei: "Isso são todos os pesadelos da Leah reunidos em um só".

Leah Feiger: Minha verdadeira história de terror.

Zoë Schiffer: Leah, deveríamos fazer você criar um código de vibração para os negócios.

Leah Feiger: Meu Deus. Eu ficaria sentada ali e começaria a chorar. Francamente, isso seria um ótimo conteúdo. Estou contribuindo para o inferno clicável que existe online. Isso é ótimo. Isso completa o ciclo para nós.

Zoë Schiffer: Você é uma influenciadora do TikTok agora. Você ouviu aqui primeiro. Esse é o nosso programa de hoje. Colocaremos links para todas as histórias sobre as quais falamos nas notas do programa. Não deixe de conferir o episódio de quinta-feira do Uncanny Valley , que é sobre empresas de tecnologia e por que elas estão apostando alto em agentes de IA. Estamos de folga na semana que vem e voltamos na próxima. Adriana Tapia e Jordan Bell produziram este episódio. Amar Lal, da Macro Sound, mixou este episódio. Jake Lummus foi nosso engenheiro de estúdio em Nova York. Jordan Bell é nosso produtor executivo. O chefe global de áudio da Conde Nast é Chris Bannon. E Katie Drummond é a diretora editorial global da WIRED.