La désinformation des chatbots attise les manifestations à Los Angeles

Ces derniers jours, les habitants de Los Angeles sont descendus dans la rue pour protester contre la politique d'immigration de l'administration Trump et contre les descentes de police de plus en plus fréquentes. Leah Feiger, rédactrice politique principale de WIRED, rejoint Zoë Schiffer, directrice des affaires et de l'industrie, pour évoquer le déluge d'informations sur les réseaux sociaux et la façon dont les chatbots IA comme Grok et ChatGPT fournissent des réponses erronées et parfois incendiaires.

Mentionné dans l'épisode d'aujourd'hui : Les chatbots IA aggravent la désinformation sur les manifestations à Los Angeles , par David Gilbert J'ai rejoint tous les recours collectifs que j'ai pu trouver, et vous aussi , par Andy Vasoyan Le codage Vibe arrive pour les emplois d'ingénierie , par Will Knight

Vous pouvez suivre Zoë Schiffer sur Bluesky à l' adresse @zoeschiffer . Écrivez-nous à [email protected] .

Vous pouvez toujours écouter le podcast de cette semaine via le lecteur audio sur cette page, mais si vous souhaitez vous abonner gratuitement pour obtenir chaque épisode, voici comment :

Si vous utilisez un iPhone ou un iPad, ouvrez l'application Podcasts ou appuyez simplement sur ce lien . Vous pouvez aussi télécharger une application comme Overcast ou Pocket Casts et rechercher « Uncanny Valley ». Nous sommes également sur Spotify .

Remarque : il s’agit d’une transcription automatisée, qui peut contenir des erreurs.

Zoë Schiffer : Ici Zoë. Avant de commencer, je tiens à vous rappeler que nous souhaitons vivement vous entendre. Si vous avez une question sur l’IA, la politique ou la confidentialité, ou un sujet que vous aimeriez aborder dans l’émission, vous pouvez nous écrire à [email protected]. Si vous écoutez nos épisodes et les appréciez, n’hésitez pas à les noter sur l’application de podcast de votre choix. Cela permet vraiment aux gens de nous trouver. Bienvenue dans l’Uncanny Valley de WIRED. Je suis Zoë Schiffer, directrice des affaires et de l’industrie de WIRED. Aujourd’hui, dans l’émission, nous nous penchons sur la façon dont les chatbots IA alimentent la désinformation sur les manifestations en cours à Los Angeles. Ces derniers jours, les habitants de Los Angeles sont descendus dans la rue pour protester contre la politique d’immigration de l’administration Trump et les descentes de police de plus en plus fréquentes. Les réseaux sociaux regorgent d’informations et d’images sur les manifestations, tandis que les gens tentent de vérifier la réalité. Les chatbots IA comme Grok et ChatGPT fournissent des réponses erronées, parfois incendiaires. Nous allons discuter de l'évolution de ce phénomène et de ses conséquences potentielles sur la scène politique actuelle. Je suis aujourd'hui rejoint par Leah Feiger, rédactrice politique senior chez WIRED. Leah, bienvenue dans l'émission.

Leah Feiger : Merci de m'avoir invitée, Zoë.

Zoë Schiffer : Depuis le week-end dernier, des manifestations massives ont éclaté à Los Angeles, alors peut-être devrions-nous commencer par là avec un aperçu très général de ce qui se passe.

Leah Feiger : La semaine dernière, des manifestations ont éclaté à Los Angeles suite aux raids de l’ICE (Immigration and Customs Agency) dans toute la ville. Au début, elles étaient moins importantes que ce que les internautes prétendaient. On disait : « Il y a des hordes de gens. Ils ont pris le contrôle de Los Angeles. C’est dingue. » En réalité, ces manifestations se déroulaient dans des zones très spécifiques et étaient étroitement liées aux raids de l’ICE. Mais ce week-end, la situation a pris une autre tournure. Trump a fait appel à la Garde nationale, au grand dam du gouverneur de Californie, Gavin Newsom, et les échanges en ligne ont été nombreux entre les droits des États et ceux du gouvernement fédéral, et la manière dont tout cela était présenté. De nombreuses arrestations, beaucoup de gens très mécontents des politiques d’immigration controversées de cette administration, et des images assez consternantes des raids de l’ICE, non seulement à Los Angeles, mais dans tout le pays. La situation est donc préoccupante depuis un certain temps, et Los Angeles est l’un des premiers endroits où l’on observe ce genre de réaction.

Zoë Schiffer : Oui, c'est ce qui m'a vraiment frappée dès le début. C'est un peu comme la première fois que nous assistons à une vague d'opposition à l'administration Trump aussi virulente, comme on s'y attendait à plusieurs reprises depuis janvier. Mais jusqu'à présent, ce n'est pas le cas, malgré le fait que leurs actions et leurs propos soient assez inhabituels par rapport à la façon dont la politique fonctionne habituellement.

Leah Feiger : Absolument. C’était assez fou, et il y a bien sûr eu le mouvement de protestation contre le démantèlement de Tesla et quelques autres manifestations plus modestes au moment même où DOGE, le soi-disant Département de l’efficacité gouvernementale d’Elon Musk, était en train de démarrer. Mais vous avez tout à fait raison, il n’y a rien eu de concret, en partie parce que c’est vraiment très personnel. Nous entendons des manifestants raconter que des membres de leur famille ont été emmenés par l’ICE et n’ont plus eu de nouvelles. Il y a eu des témoignages incroyables à travers le pays de personnes choquées que leurs voisins aient été retirés de la rue. Et encore une fois, l’administration a toujours affirmé qu’elle allait faire cela. La grande différence ici réside, premièrement, dans la réaction des habitants de Los Angeles, et deuxièmement, dans le fait que cela devient désormais une question de droits des États plutôt que de compétence fédérale.

Zoë Schiffer : Et j'ai l'impression qu'au fur et à mesure que la situation évolue, même pour vous et moi, nous essayons de comprendre, comme vous l'avez dit, ce qui se passe réellement. Que se passe-t-il ? Et donc, une des choses qu'ils font, très 2025, c'est de se tourner vers les chatbots, en demandant à ChatGPT, à Grok, « Que se passe-t-il ici ? » Quelles sont donc ces questions auxquelles les gens cherchent des réponses, et que se passe-t-il lorsqu'ils discutent avec les chatbots de ce qui se passe ?

Leah Feiger : OK. Un point de vue un peu controversé pour commencer. Je trouve qu'il y a quelque chose d'incroyablement pur dans le fait que les gens voient une photo ou une vidéo sur les réseaux sociaux et se disent : « Attendez, c'est vrai ? C'est exact ? » C'est plutôt bien. Pour moi, c'est une bonne chose.

Zoë Schiffer : Oui, l’éducation aux médias.

Leah Feiger : L’éducation aux médias. On en parle depuis si longtemps. Mais le plus grave, c’est que ces chatbots ne sont absolument pas à la hauteur. Puis-je vous donner un exemple ? Ça vous va ?

Zoë Schiffer : S'il vous plaît, s'il vous plaît.

Leah Feiger : OK. Il est évident que des gens sont descendus dans la rue suite aux descentes de l'ICE, et des affiches conservatrices ont inondé leurs fils d'informations inexactes. Ils ont publié de vieilles images de manifestations, des extraits de jeux vidéo, de films, prétendant qu'il y avait des agitateurs. Ça a été très fréquent. Du coup, les gens se sont tournés vers des chatbots IA comme Grok, etc. Par exemple, lorsque le gouvernement fédéral a envoyé 2 000 soldats de la Garde nationale, le SF Chronicle a publié une photo de ces soldats dormant par terre. Ces images ont été partagées par le gouverneur Newsom, qui a déclaré : « Vous avez littéralement envoyé ces troupes dans notre État sans que nous les ayons demandées, cela a complètement aggravé la situation, et maintenant, ils n'ont plus d'endroit où dormir. » Juste après que Newsom a partagé cela, de nombreuses personnes ont affirmé sur X, sur Facebook, que ces images étaient des inventions, qu'elles avaient été générées par l'IA, ou qu'elles faisaient référence à un événement totalement différent. Et il ne s'agit pas seulement d'affiches aléatoires. On parle comme Laura Loomer, la reine des conspirationnistes.

Zoë Schiffer : Oh, wow.

Leah Feiger : Oui, exactement. Qui a déjà l'oreille de Trump ? C'est devenu très répandu. Alors, les gens sont allés voir Grok de X et ils ont demandé : « Grok, c'est quoi ça ? » Et que leur a dit Grok ? Non, non. Grok a dit que ces images ne provenaient pas de la manifestation de Los Angeles. Elles venaient d'Afghanistan.

Zoë Schiffer : Oh. Grok, non.

Leah Feiger : Ils disaient : « Il n'y a aucun support crédible. C'est une erreur d'attribution. » C'était vraiment très grave. Vraiment très grave. Et puis il y a eu un autre cas où deux personnes partageaient ces photos sur ChatGPT, et ChatGPT disait aussi : « Oui, c'est l'Afghanistan. Ce n'est pas exact, etc. » Ce n'est pas terrible.

Zoë Schiffer : Je veux dire, ne me lancez pas sur ce moment qui survient après que beaucoup de ces plateformes ont systématiquement démantelé leurs programmes de vérification des faits et ont décidé de laisser passer volontairement beaucoup plus de contenu. Et puis, on ajoute à tout cela les chatbots qui, malgré tous leurs usages – et je pense qu'ils peuvent être vraiment utiles – sont incroyablement sûrs d'eux. Lorsqu'ils ont des hallucinations, lorsqu'ils font des erreurs, ils le font de manière très convaincante. Vous ne me verrez pas ici défendre Google Search. C'est une pure absurdité, un cauchemar, mais c'est un peu plus évident quand ça dérape, quand on est sur un blog quelconque et peu crédible, que quand Grok vous dit avec une assurance absolue qu'on voit une photo de l'Afghanistan alors que ce n'est pas le cas.

Leah Feiger : C'est vraiment inquiétant. C'est hallucinant. C'est complètement hallucinant, mais avec l'assurance du mec le plus ivre que tu aies jamais rencontré à une fête.

Zoë Schiffer : Cauchemar. Cauchemar. Ouais.

Leah Feiger : Ils disent : « Non, non, non. J'en suis sûre. Je n'ai jamais été aussi sûre de moi. »

Zoë Schiffer : Absolument. Alors, pourquoi les chatbots donnent-ils ces réponses erronées avec autant d’assurance ? Pourquoi ne les voit-on pas simplement dire : « Eh bien, je ne sais pas, alors vous devriez peut-être chercher ailleurs. Voici quelques sources fiables où chercher cette réponse et cette information. »

Leah Feiger : Parce qu’ils ne le font pas. Ils n’admettent pas qu’ils ne savent pas, ce qui me paraît vraiment incroyable. De nombreuses études ont d’ailleurs été menées à ce sujet, et une étude récente sur les outils de recherche IA menée par le Tow Center for Digital Journalism de l’Université Columbia a révélé que les chatbots étaient « généralement incapables de refuser de répondre aux questions auxquelles ils ne pouvaient pas répondre précisément. Ils proposaient plutôt des réponses incorrectes ou spéculatives ». C’est vraiment incroyable, surtout quand on sait qu’il y a eu tant d’articles pendant la campagne du genre : « Oh non, désolé, je suis ChatGPT et je ne peux pas donner mon avis sur la politique. » On se dit : « Eh bien, on donne son avis sur beaucoup de choses maintenant. »

Zoë Schiffer : OK, je pense que nous devrions nous arrêter là sur cette note très horrible et nous reviendrons tout de suite.

[casser]

Zoë Schiffer : Bienvenue à Uncanny Valley . Je suis accompagnée aujourd'hui par Leah Feiger, rédactrice politique senior chez WIRED. Bon, au-delà de la simple vérification des informations et des images, il y a aussi eu de nombreux rapports sur des vidéos trompeuses générées par l'IA. Un compte TikTok a commencé à publier des vidéos d'un prétendu soldat de la Garde nationale nommé Bob, déployé lors des manifestations de Los Angeles. On pouvait le voir tenir des propos mensongers et incendiaires, comme celui selon lequel les manifestants « balancent des ballons remplis d'huile », et l'une des vidéos a été vue près d'un million de fois. Je ne sais pas, j'ai l'impression que les gens doivent devenir un peu plus habiles à identifier ce genre de fausses images, mais c'est difficile dans un environnement intrinsèquement hors contexte comme une publication sur X ou une vidéo sur TikTok.

Leah Feiger : Tout à fait. Et ce live TikTok de Bob dont vous avez parlé, qui a été démenti par la BBC, a été supprimé. C'est fini. Mais les gens réagissent en disant : « Oh là là, ce sont les médias grand public. Ils ferment tout ça. Voilà l'information. » Donc, même si on trouve l'information, même si on la dément, ce n'est toujours pas suffisant. Et je dois revenir aux questions d'éducation aux médias, et c'est peut-être pour cela que les chatbots IA qui se trompent me dérangent autant, parce que les gens ne le sont pas tous, mais il y a certainement des gens de bonne foi qui se demandent : « C'est vrai ? S'il vous plaît, dites-moi si c'est vrai. »

Zoë Schiffer : Oh, absolument. Oui, ils veulent savoir. Je sais. Ma pauvre mère m'a montré une vidéo l'autre jour où l'on voit des bébés paresseux identiques qui regardent la caméra. Elle m'a dit : « Ils sont trop mignons, non ? J'ai trouvé ça sur Facebook. » Et moi, je lui ai répondu : « Maman, ce ne sont pas de vrais paresseux. Il faut qu'on passe à autre chose. » Elle était anéantie.

Leah Feiger : Je pense cependant que les conneries d'animaux IA sont quelque chose avec lesquelles je pourrais être d'accord.

Zoë Schiffer : La seule forme d’IA que Leah aime, ce sont les animaux IA.

Leah Feiger : Non, non, je retire ce que j'ai dit. Bref, les enjeux sont moindres, mais on peut dire que cela contribue quand même à la réalité. Je ne sais pas. Qui peut le dire ? Et le problème, c'est que, d'une certaine manière, on a déjà vécu ça. Il y a cinq ans, c'était en 2020, avec les manifestations de George Floyd à travers le pays, et elles étaient massives, énormes, et on a eu beaucoup de problèmes de désinformation. Beaucoup de gens disaient : « Non, c'est ça. C'est un jeu vidéo. C'est ça. » Mais cinq ans plus tard, le paysage a complètement changé. On a toujours les mêmes acteurs malveillants, mais c'est beaucoup plus confus. La confiance dans les médias est en baisse. Vers qui se tourner ? Votre fidèle chatbot IA, intégré à toutes les applications de réseaux sociaux auxquelles vous avez personnellement accès.

Zoë Schiffer : Ce qui a également supprimé les autres mécanismes de vérification des faits. Voilà où nous en sommes.

Leah Feiger : Oui.

Zoë Schiffer : On a vu ça à maintes reprises. C’est intéressant, car Elon Musk a licencié une grande partie de l’équipe de modération de contenu de X, anciennement Twitter. Il a également supprimé certaines règles de modération de contenu que l’entreprise avait passé des années à réfléchir, à mettre en place et à débattre en interne. Et alors que de grands événements d’actualité se déroulaient en temps réel, le genre de choses pour lesquelles Twitter était censé fonctionner : tremblements de terre, guerres, manifestations, etc., ces moments où auparavant tout le monde se précipitait sur X pour comprendre ce qui se passait, on voit encore des gens adopter ce même comportement, mais la capacité à déterminer ce qui se passe réellement sur cette plateforme a énormément diminué ces dernières années. Il y a de bonnes informations, mais elles sont mêlées à toutes ces informations horribles, mauvaises et fausses, et il est très difficile de distinguer les uns des autres.

Leah Feiger : C'est un vrai désastre, et je ne suis plus une fan de X, mais j'y vais régulièrement pour voir ce qui se passe. C'est nul. C'est une combinaison des deux en ce moment précis, car Elon Musk est de retour et publie sans arrêt des articles sur les voyages spatiaux. Du coup, on a les publications d'Elon Musk qui sont tout en haut de mon fil d'actualité. On a Los Angeles qui brûle, l'incendie se propage au reste de l'Amérique, et puis on a encore quelques journalistes qui traînent et qui disent : « Lisez mon article. »

Zoë Schiffer : Ça ne marche pas ? Ouais.

Leah Feiger : Et c'est tellement triste. Ouais.

Zoë Schiffer : Oui, si vous essayez de devenir un influenceur X, le genre de contenu que vous devez partager est intrinsèquement un peu clivant, un peu provocateur, un peu choquant. Dans certains cas, ils sont payés par la plateforme pour publier ce genre de contenu. Je pense qu'il y a quelques garde-fous en place. Si vous publiez une note communautaire, vous n'êtes pas censé être rémunéré, mais le système d'incitation, comme vous l'avez mentionné, est conçu pour encourager les gens à publier les choses les plus folles possibles, et c'est ce que nous constatons actuellement.

Leah Feiger : Je dois dire que c'est pour quoi ? Pour remplir les poches de ces entreprises et de leurs propriétaires milliardaires. Mais les auteurs de ces publications, je suis sûre que beaucoup de gens ont fait des arnaques. Il y a eu récemment un article incroyable du New York Times sur une entreprise très, très établie…

Zoë Schiffer : C'est vrai.

Leah Feiger : Oui, l'affiche sur X. Il disait : « Je suis républicain, et c'est ce qui m'importe. » Il ne prend pas de vacances, pas de week-ends. Il passe ses journées entières sur son ordinateur et gagne environ moins de 60 000 dollars par an. Je me demande alors : « Quel est l'intérêt ? » Est-ce cette incroyable dose de sérotonine qu'apporte un tweet devenu viral ? Ça ne suffit pas à payer les courses ? Alors, le fait qu'Elon Musk, Zuckerberg et tous ces autres aient réussi à convaincre les gens que c'est toujours le bon endroit avec des contenus incendiaires et inexacts est sans doute la pire arnaque de toutes.

Zoë Schiffer : Oui. Incroyable. Bon, on va faire une petite pause et à notre retour, on partagera nos recommandations sur ce qu'il faut voir sur WIRED.com cette semaine.

[bec]

Zoë Schiffer : Bienvenue dans Uncanny Valley . Je suis Zoë Schiffer, directrice des affaires et de l'industrie de WIRED. Je suis accompagnée aujourd'hui de Leah Feiger, rédactrice politique principale de WIRED. Avant de partir, Leah, dites à nos auditeurs ce qu'ils doivent absolument lire sur WIRED.com.

Leah Feiger : Je soutiens sans réserve cette recommandation. Il s'agit d'un article d'Andy Vasoyan intitulé « J'ai rejoint tous les recours collectifs que j'ai pu trouver, et vous aussi. » Il a répondu à toutes les questions de la personne. Je voulais savoir si j'étais censée obtenir ces 5 dollars supplémentaires. J'aimerais bien savoir. Et cet auteur l'a fait. Il l'a fait. Il est sur la bonne voie. Il parle à des personnes qui aident les gens à obtenir leur argent, et cette statistique me hantera à jamais : environ 4 % seulement de ces recours collectifs, ceux qui en sortent, sont effectivement réclamés par des personnes qui le méritent. C'est catastrophique.

Zoë Schiffer : Je sais. J'en fais partie. Je reçois souvent ce genre de lettres. Qu'ai-je reçu récemment ?

Leah Feiger : Zoë, tu fais partie du problème. Prends ces 7 $, Zoë.

Zoë Schiffer : Je sais.

Leah Feiger : Ils peuvent désormais utiliser Venmo.

Zoë Schiffer : Je l'ai fait une fois, ça coûtait environ 2 $, et je me suis dit : « OK. Je pensais gagner environ 3 000 $, mais ce n'est pas ce qui s'est passé. »

Leah Feiger : OK. Non, c'est un long parcours. C'est un jeu. OK, quel est le tien ? Quel est ton truc préféré ?

Zoë Schiffer : Je vous recommande un article publié cette semaine par Will Knight, notre journaliste spécialisé en IA. Il traite de l'arrivée du code d'ambiance pour les métiers de l'ingénierie, et c'est vraiment génial. Nous avons discuté avec des ingénieurs de toute la Silicon Valley, et on nous a parlé de ce qu'ils appellent l'apocalypse de l'ingénierie qui s'annonce, car les agents de codage IA sont de plus en plus performants. Mais en réalité, lorsque Will a réalisé ce reportage, c'était beaucoup plus compliqué. On disait que c'était comme donner une tronçonneuse à un enfant et qu'on pouvait inventer des choses vraiment géniales. Certes, on peut coder une application et un site web entiers simplement en parlant à un chatbot, mais on peut aussi créer du code vraiment bogué, avec toutes sortes de failles de sécurité. Et les gens disaient : « Tout s'effondre dès qu'on se préoccupe des fonctionnalités de l'application qu'on développe. »

Leah Feiger : J'ai des sueurs froides en ce moment.

Zoë Schiffer : Je sais. Je sais. Je me suis dit : c'est tous les cauchemars de Leah réunis en un seul.

Leah Feiger : Ma véritable histoire d'horreur.

Zoë Schiffer : Leah, nous devrions te faire coder quelque chose pour ton entreprise.

Leah Feiger : Oh mon Dieu ! Je m'asseyais là et je me mettais à pleurer. Franchement, ce serait du bon contenu. J'enrichis l'enfer du clic en ligne. C'est bien. La boucle est bouclée pour nous.

Zoë Schiffer : Vous êtes désormais une influenceuse TikTok. Vous l'avez entendu ici en premier. C'est notre émission du jour. Nous vous proposerons des liens vers toutes les histoires évoquées dans les notes de l'émission. Ne manquez pas l'épisode d' Uncanny Valley de jeudi, consacré aux entreprises technologiques et à leurs investissements importants dans les agents IA. Nous sommes en congé la semaine prochaine et nous serons de retour la semaine suivante. Adriana Tapia et Jordan Bell ont produit cet épisode. Amar Lal de Macro Sound a mixé cet épisode. Jake Lummus était notre ingénieur du son du studio à New York. Jordan Bell est notre producteur exécutif. Chris Bannon est responsable de l'audio mondial chez Conde Nast. Et Katie Drummond est la directrice éditoriale mondiale de WIRED.