Chatbot dezinformujący podsycający protesty w Los Angeles

W ostatnich dniach mieszkańcy Los Angeles wyszli na ulice, aby zaprotestować przeciwko polityce imigracyjnej administracji Trumpa i coraz częstszym nalotom ICE. Starsza redaktorka polityczna WIRED, Leah Feiger, dołącza do Zoë Schiffer, dyrektorki ds. biznesu i przemysłu, aby omówić powiązany potok informacji w mediach społecznościowych i to, w jaki sposób chat boty AI, takie jak Grok i ChatGPT , dostarczają niepoprawnych, a czasami prowokacyjnych odpowiedzi.

Wspomniano w dzisiejszym odcinku: Chatboty AI pogarszają dezinformację w sprawie protestów w Los Angeles , autor: David Gilbert Dołączyłam do każdego pozwu zbiorowego, jaki mogłam znaleźć, i ty też możesz , autor: Andy Vasoyan Kodowanie Vibe zbliża się do stanowisk inżynierskich , autor: Will Knight

Możesz śledzić Zoë Schiffer na Bluesky na @zoeschiffer . Napisz do nas na [email protected] .

Podcastu z tego tygodnia możesz zawsze posłuchać za pomocą odtwarzacza audio na tej stronie, ale jeśli chcesz zapisać się bezpłatnie i otrzymywać wszystkie odcinki, oto jak to zrobić:

Jeśli masz iPhone'a lub iPada, otwórz aplikację o nazwie Podcasts lub po prostu stuknij ten link . Możesz również pobrać aplikację, taką jak Overcast lub Pocket Casts i wyszukać „Uncanny Valley”. Jesteśmy również na Spotify .

Uwaga: Jest to zapis automatyczny, który może zawierać błędy.

Zoë Schiffer: Tu Zoë. Zanim zaczniemy, chciałabym przypomnieć, że naprawdę chcemy usłyszeć od Ciebie. Jeśli masz pytanie dotyczące AI, polityki lub prywatności, które zaprząta Ci głowę, lub temat, o którym chciałbyś, abyśmy porozmawiali w programie, możesz napisać do nas na adres [email protected], a jeśli posłuchasz naszych odcinków i Ci się spodobają, oceń je w swojej ulubionej aplikacji do podcastów. To naprawdę pomaga ludziom nas znaleźć. Witamy w Uncanny Valley w WIRED. Jestem dyrektorem ds. biznesu i przemysłu w WIRED, Zoë Schiffer. Dzisiaj w programie zagłębiamy się w to, w jaki sposób chatboty AI podsycają dezinformację na temat trwających protestów w Los Angeles. W ostatnich dniach mieszkańcy Los Angeles wyszli na ulice, aby zaprotestować przeciwko polityce imigracyjnej administracji Trumpa i coraz częstszym nalotom ICE. Media społecznościowe są wypełnione informacjami i materiałami filmowymi na temat protestów, a ludzie próbują sprawdzać fakty na temat tego, co się naprawdę dzieje. Chatboty AI, takie jak Grok i ChatGPT, udzielają niepoprawnych i czasami prowokacyjnych odpowiedzi. Omówimy, jak rozwija się ten schemat i jakie konsekwencje może mieć na ten moment polityczny. Dołączyła do mnie dziś Leah Feiger, starsza redaktorka ds. polityki w WIRED. Leah, witaj w programie.

Leah Feiger: Dziękuję za zaproszenie, Zoë.

Zoë Schiffer: Od zeszłego weekendu w Los Angeles wybuchają masowe protesty, więc może zacznijmy od ogólnego obrazu tego, co się dzieje.

Leah Feiger: W zeszłym tygodniu w Los Angeles wybuchły protesty po nalotach ICE w całym mieście i na początku były mniejsze, niż ludzie twierdzili w internecie. Mówili: „Są hordy ludzi. Przejęli Los Angeles. To szaleństwo”. Prawda była taka, że ​​były one w bardzo konkretnych obszarach i były ściśle powiązane z nalotami ICE. Ale w weekend sprawy przybrały inny obrót. Trump wezwał Gwardię Narodową, ku wielkiemu rozczarowaniu gubernatora Kalifornii Gavina Newsoma, a w internecie pojawiło się wiele dyskusji na temat praw stanowych kontra prawa federalne kontra sposób, w jaki to wszystko zostało przedstawione. Wiele aresztowań, wiele osób naprawdę zdenerwowanych dość kontrowersyjną polityką imigracyjną tej administracji i kilka dość przygnębiających obrazów nalotów ICE, nie tylko w Los Angeles, ale w całym kraju. Więc to narastało od dłuższego czasu, a Los Angeles jest naprawdę jednym z pierwszych miejsc, w których widzimy tego rodzaju reakcję.

Zoë Schiffer: Tak, mam na myśli, że myślę, że to właśnie od początku rzuciło mi się w oczy. Wydaje się, że to pierwszy raz, kiedy widzimy falę sprzeciwu wobec administracji Trumpa w naprawdę pełen sposób, w sposób, którego spodziewaliśmy się zobaczyć w różnych momentach tej administracji od stycznia. Ale tak naprawdę do tej pory tego nie widzieliśmy, pomimo faktu, że to, co robili, co mówili, jest dość niezwykłe w porównaniu z tym, jak zwykle działa polityka.

Leah Feiger: Zdecydowanie. To było dość szalone i oczywiście był ruch protestacyjny Tesla Takedown i kilka mniejszych protestów, które miały miejsce tuż po rozpoczęciu DOGE, tak zwanego Departamentu Efektywności Rządowej Elona Muska. Ale masz całkowitą rację, nie było niczego w ten konkretny sposób, a częściowo dlatego, że jest to po prostu niesamowicie osobiste. Słyszymy historie od protestujących o członkach ich rodzin zabranych przez ICE i nie słyszymy od nich więcej. W całym kraju pojawiły się niesamowite profile ludzi zszokowanych tym, że ich sąsiedzi zostali zabrani z ulic. I znowu administracja mówiła, że ​​będzie to robić przez cały czas. Największą różnicą jest po pierwsze, reakcja ludzi ze społeczności w Los Angeles, a po drugie, fakt, że teraz staje się to naprawdę kwestią praw stanowych kontra federalnych.

Zoë Schiffer: I czuję, że w miarę rozwoju sytuacji, nawet dla ciebie i mnie, próbowaliśmy zrozumieć, jak powiedziałeś, co się tu naprawdę dzieje? Co się dzieje? I jedną z rzeczy, które robili, w 2025 r., było zwracanie się do chatbotów, zadawanie pytań ChatGPT, Grokowi, co się tu dzieje?" Jakie są więc niektóre z tych pytań, na które ludzie próbują uzyskać odpowiedź, i co się dzieje, gdy rozmawiają z chatbotami o tym, co się dzieje?

Leah Feiger: OK. Trochę kontrowersyjne podejście, żeby nas zacząć. Myślę, że jest coś niesamowicie czystego w tym, że ludzie widzą zdjęcie lub wideo w mediach społecznościowych i myślą: „Czekaj, czy to prawdziwe? Czy to jest dokładne?”. To jest w sumie dobre. Dla mnie to dobra rzecz.

Zoë Schiffer: Tak, edukacja medialna.

Leah Feiger: Media literacy. Krzyczeliśmy o tym przez tak długi czas. Ale dewastujące jest to, że te chatboty po prostu nie są w stanie sprostać wyzwaniu. Czy mogę podać tutaj przykład? Czy to byłoby OK?

Zoë Schiffer: Proszę, proszę.

Leah Feiger: OK. Oczywiście, po tych nalotach ICE, ludzie wyszli na ulice, a konserwatywni plakatowcy zalewali swoje kanały nieprawdziwymi informacjami. Publikowali stare nagrania protestów, klipy z gier wideo, filmów, twierdząc, że jest tam mnóstwo agitatorów. Było tego sporo. W rezultacie ludzie zaczęli korzystać z chatbotów AI, takich jak Grok itd. Jednym z takich konkretnych przypadków jest wysłanie przez rząd federalny 2000 żołnierzy Gwardii Narodowej, a „SF Chronicle” opublikował zdjęcie tych żołnierzy śpiących na podłodze. Te zdjęcia udostępnił gubernator Newsom, który powiedział: „Dosłownie wysłaliście tych żołnierzy do naszego stanu, o których nie prosiliśmy, to całkowite podżeganie do tej sytuacji, a teraz nie mają gdzie spać”. Zaraz po tym, jak Newsom udostępnił to, mnóstwo ludzi twierdziło na X, na Facebooku, że te zdjęcia to zmyślenia, że ​​zostały wygenerowane przez AI lub że całkowicie odnoszą się do innego wydarzenia. I nie mówimy tu tylko o przypadkowych plakatach. Mówimy jak Laura Loomer, królowa spiskowców.

Zoë Schiffer: O, wow.

Leah Feiger: Tak, dokładnie. Kto już ma ucho Trumpa. To stało się powszechne. Więc ludzie poszli do Groka X i pytali: „Grok, co to jest?”. I co im powiedział Grok? Nie, nie. Grok powiedział, że to nie były zdjęcia z protestu w Los Angeles. Powiedział, że pochodzą z Afganistanu.

Zoë Schiffer: Och, Grok, nie.

Leah Feiger: Powiedzieli: „Nie ma wiarygodnego wsparcia. To błędne przypisanie”. To było naprawdę złe. To było naprawdę, naprawdę złe. A potem była inna sytuacja, kiedy kilka innych osób udostępniało te zdjęcia ChatGPT, a ChatGPT również powiedział: „Tak, to Afganistan. To nie jest dokładne, itd., itd.” To nie jest świetne.

Zoë Schiffer: Nie zaczynajmy od tego momentu, który nadszedł po tym, jak wiele z tych platform systematycznie rozmontowało swoje programy sprawdzania faktów, celowo zdecydowało się przepuścić znacznie więcej treści. A potem do tego wszystkiego dodasz chatboty, które, pomimo wszystkich swoich zastosowań, a myślę, że mogą być naprawdę przydatne, są niesamowicie pewne siebie. Kiedy mają halucynacje, kiedy coś zepsują, robią to w sposób bardzo przekonujący. Nie zobaczysz mnie tutaj broniącej wyszukiwarki Google. Absolutne śmieci, koszmar, ale jest to trochę bardziej oczywiste, kiedy to jest błądzenie, kiedy jesteś na jakimś przypadkowym, niewiarygodnym blogu, niż kiedy Grok mówi ci z całkowitą pewnością, że widzisz zdjęcie Afganistanu, kiedy tak nie jest.

Leah Feiger: To naprawdę niepokojące. Mam na myśli, że to halucynacja. To całkowite halucynacja, ale z pewnością siebie najbardziej pijanego studenta bractwa, który niestety kiedykolwiek został osaczony na imprezie w twoim życiu.

Zoë Schiffer: Koszmar. Koszmar. Tak.

Leah Feiger: Mówią „Nie, nie, nie. Jestem pewna. Nigdy w życiu nie byłam bardziej pewna”.

Zoë Schiffer: Absolutnie. OK, więc dlaczego chatboty udzielają tych niepoprawnych odpowiedzi z taką pewnością siebie? Dlaczego nie widzimy, jak po prostu mówią: „Cóż, nie wiem, więc może powinieneś sprawdzić gdzie indziej. Oto kilka wiarygodnych miejsc, w których możesz szukać tej odpowiedzi i tych informacji”.

Leah Feiger: Ponieważ tego nie robią. Nie przyznają się, że nie wiedzą, co jest dla mnie naprawdę szalone. Przeprowadzono wiele badań na ten temat, a w niedawnym badaniu narzędzi wyszukiwania AI w Tow Center for Digital Journalism na Uniwersytecie Columbia stwierdzono, że chatboty „generalnie źle odmawiały odpowiedzi na pytania, na które nie potrafiły odpowiedzieć dokładnie. Zamiast tego oferowały niepoprawne lub spekulatywne odpowiedzi”. Naprawdę, naprawdę, naprawdę szalone, zwłaszcza gdy weźmie się pod uwagę fakt, że podczas wyborów było tak wiele artykułów na temat: „O nie, przepraszam, jestem ChatGPT i nie mogę mieć wpływu na politykę”. Myślisz sobie, cóż, teraz masz wpływ na wiele rzeczy.

Zoë Schiffer: OK, myślę, że powinniśmy na tym miejscu zatrzymać się na chwilę i zaraz wrócimy.

[przerwa]

Zoë Schiffer: Witamy ponownie w Uncanny Valley . Dołączyła do mnie dziś Leah Feiger, starsza redaktorka działu politycznego w WIRED. OK, więc poza próbami weryfikacji informacji i materiałów filmowych, pojawiło się również wiele raportów o wprowadzających w błąd filmach generowanych przez sztuczną inteligencję. Było konto TikTok, które zaczęło przesyłać filmy rzekomego żołnierza Gwardii Narodowej o imieniu Bob, który został wysłany na protesty w Los Angeles, i można było zobaczyć, jak mówi fałszywe i podżegające rzeczy, takie jak fakt, że protestujący „wrzucają balony pełne oleju”, a jeden z filmów miał prawie milion wyświetleń. Więc nie wiem, wydaje się, że ludzie muszą stać się nieco bardziej biegli w identyfikowaniu tego rodzaju fałszywych materiałów filmowych, ale jest to trudne w środowisku, które jest z natury pozbawione kontekstu, takim jak post na X lub film na TikToku.

Leah Feiger: Całkowicie. I ta transmisja na żywo TikToka, o której wspomniałeś od Boba, została obalona przez BBC, usunęli ją. Zniknęła. Ale ludzie w odpowiedzi mówią: „O mój Boże, to są główne media. Oni po prostu to zamykają. Oto te informacje”. Więc to tak, jakby znaleźć coś, obalić coś, to wciąż nie wystarczy. I muszę wrócić do kwestii edukacji medialnej, i być może dlatego tak bardzo denerwują mnie chatboty AI, które się mylą, ponieważ ludzie tak naprawdę nie są wszyscy, ale na pewno są ludzie w dobrej wierze, którzy mówią: „Czy to jest prawdziwe? Proszę, niech ktoś mi powie, czy to jest prawdziwe”.

Zoë Schiffer: Och, oczywiście. Tak, chcą wiedzieć. Wiem. Moja biedna mama pokazała mi ostatnio filmik, na którym grupa identycznych małych leniwców patrzyła w kamerę. Powiedziała: „Czyż nie są takie słodkie? Znalazłam to na Facebooku”. A ja: „Mamo, to nie są prawdziwe leniwce. Musimy iść dalej”. Była załamana.

Leah Feiger: Myślę jednak, że odchody zwierząt pochodzące od sztucznej inteligencji mogą być dla mnie OK.

Zoë Schiffer: Jedyną formą sztucznej inteligencji, która podoba się Leah, są zwierzęta będące sztuczną inteligencją.

Leah Feiger: Nie, nie, wycofuję się. Tak czy inaczej, niższe stawki, ale prawdopodobnie nadal przyczyniają się do tego, co jest prawdziwe? Nie wiem. Kto to powie? A część rzeczy jest taka, że ​​w pewnym sensie już to przerabialiśmy. Pięć lat temu był rok 2020 i protesty George'a Floyda w całym kraju, a te były ogromne i duże, i mieliśmy wiele problemów z dezinformacją. Mieliśmy wielu ludzi, którzy mówili: „Nie, to jest to. To jest ta gra wideo. To jest to”. Ale pięć lat później krajobraz całkowicie się zmienił. Nadal masz tych samych złych aktorów, ale teraz jest to o wiele bardziej mylące. Zaufanie do mediów spadło. Do kogo się zwracasz? Do Twojego zaufanego czatbota AI, który został zintegrowany z każdą aplikacją mediów społecznościowych, do której masz osobisty dostęp.

Zoë Schiffer: Co również pozbawiło innych mechanizmów sprawdzania faktów. Więc jesteśmy tutaj.

Leah Feiger: Tak.

Zoë Schiffer: Widzieliśmy to wielokrotnie. To ciekawe, ponieważ Elon Musk słynnie zwolnił znaczną część zespołu moderującego treści w X, dawniej Twitter. Zdjął też niektóre zasady moderowania treści, nad którymi firma przez lata rozważała, wdrażała i debatowała wewnętrznie. I gdy mieliśmy duże wydarzenia informacyjne rozgrywające się w czasie rzeczywistym, takie rzeczy, do których Twitter został stworzony, duże trzęsienia ziemi, wojny, protesty, cokolwiek to jest, te chwile, w których wcześniej widziałeś, jak wszyscy gromadzą się na X, aby dowiedzieć się, co się dzieje, nadal widzisz ludzi robiących to samo, ale możliwość ustalenia, co tak naprawdę dzieje się na tej platformie, tak bardzo spadła w ostatnich latach. Są dobre informacje, ale są one wymieszane ze wszystkimi tymi okropnymi, złymi, fałszywymi informacjami i naprawdę trudno powiedzieć, co jest czym.

Leah Feiger: To taki bałagan, a ja już nie jestem osobą z X-em, ale często tam zaglądam, żeby zobaczyć, co się dzieje. To śmieci. To połączenie, teraz, w tym konkretnym momencie, ponieważ Elon Musk wrócił i bez przerwy publikuje posty o podróżach kosmicznych, więc to tak, jakbyśmy mieli posty Elona Muska, które są na samej górze mojego kanału. Mamy płonące LA, ogień rozprzestrzeniający się na resztę Ameryki, a potem mamy kilku dziennikarzy, którzy wciąż kręcą się i mówią: „Przeczytaj moją historię”.

Zoë Schiffer: Nie ma trakcji? Tak.

Leah Feiger: I to jest takie smutne. Tak.

Zoë Schiffer: Tak, mam na myśli, że jeśli jesteś kimś, kto próbuje zostać X influencerem, to rzeczy, którymi musisz się dzielić, są z natury trochę dzielące, trochę zapalne, trochę szokujące. W niektórych przypadkach platforma płaci im za publikowanie tego rodzaju treści. Myślę, że istnieje kilka zabezpieczeń. Jeśli masz notatkę społecznościową na poście, nie powinieneś za to otrzymywać pieniędzy, ale struktura zachęt, jak wspomniałeś, jest skonstruowana tak, aby zachęcić ludzi do publikowania najdziwniejszych rzeczy, na jakie mogą sobie pozwolić, i to właśnie widzimy teraz.

Leah Feiger: Chociaż muszę powiedzieć, po co? Po to, by napełnić kieszenie tych firm i tych miliarderów, ale prawdziwi autorzy, jestem pewna, że ​​wielu ludzi dokonało oszustwa, ale niedawno ukazał się niesamowity artykuł w New York Times o bardzo, bardzo ugruntowanej—

Zoë Schiffer: Tak.

Leah Feiger: Tak, plakat na X. I powiedział: „Jestem republikaninem i to jest to, na czym mi zależy”. Nie spędza żadnych wakacji, żadnych weekendów. Cały dzień spędza przy komputerze i zarabia coś, mniej niż 60 000 dolarów rocznie, na co ja po prostu mówię, jaka jest zachęta? Czy zachętą jest ten niesamowity zastrzyk serotoniny, gdy tweet staje się wirusowy? Że nie można zapłacić za artykuły spożywcze? Więc fakt, że Musk i Zuckerberg i wszyscy ci ludzie zdołali przekonać ludzi, że to jest nadal miejsce, w którym należy być, z bardziej zapalczywymi, niedokładnymi treściami, jest prawdopodobnie największym oszustwem ze wszystkich.

Zoë Schiffer: Tak. Niesamowite. OK, zrobimy sobie kolejną krótką przerwę, a kiedy wrócimy, podzielimy się naszymi rekomendacjami dotyczącymi tego, co warto zobaczyć na WIRED.com w tym tygodniu.

[dziób]

Zoë Schiffer: Witamy ponownie w Uncanny Valley . Nazywam się Zoë Schiffer, jestem dyrektorem ds. biznesu i przemysłu w WIRED. Dołączyła do mnie dziś starsza redaktorka działu politycznego w WIRED, Leah Feiger. Zanim ruszymy, Leah, powiedz naszym słuchaczom, co koniecznie muszą przeczytać na WIRED.com.

Leah Feiger: Naprawdę, naprawdę podtrzymuję tę rekomendację. To artykuł Andy'ego Vasoyana zatytułowany „Dołączyłem do każdego pozwu zbiorowego, jaki mogłem znaleźć, i ty też możesz”. Poruszył każdą wrażliwą osobę. Chcę wiedzieć, czy miałem dostać te dodatkowe 5 dolarów? Chciałbym wiedzieć. I ten pisarz to zrobił. Zrobili to. Są na dobrej drodze. Rozmawiają z ludźmi, którzy są zaangażowani w zdobywanie pieniędzy dla innych, a ta statystyka będzie mnie prześladować na zawsze, a mianowicie, że około 4 procent tych pozwów zbiorowych, które wychodzą na jaw, jest faktycznie kiedykolwiek zgłaszanych przez osoby, które na to zasługują. Niszczycielskie.

Zoë Schiffer: Wiem. Jestem częścią tego. Dostaję takie listy dość często. Co dostałam ostatnio?

Leah Feiger: Zoë, jesteś częścią problemu. Weź te 7 dolarów, Zoë.

Zoë Schiffer: Wiem.

Leah Feiger: Teraz mogą używać Venmo.

Zoë Schiffer: Zrobiłam to raz i kosztowało to jakieś 2 dolary, i pomyślałam sobie: OK. Chyba spodziewałam się, że dostanę jakieś 3000 dolarów, i pomyślałam sobie: to się nie wydarzyło.

Leah Feiger: OK. Nie, to długa droga. To gra. OK, jaka jest twoja? Co jest twoją ulubioną rzeczą?

Zoë Schiffer: Moją rekomendacją jest historia, którą opublikowaliśmy w tym tygodniu autorstwa Willa Knighta, naszego reportera ds. AI. Dotyczy ona tego, jak kodowanie wibracji wkracza do inżynierii i jest tak, tak dobre. Rozmawialiśmy z inżynierami w całej Dolinie Krzemowej, słysząc o tym, co nazywają apokalipsą inżynierii, która nadchodzi, ponieważ agenci kodowania AI stają się tak, tak dobrzy. Ale tak naprawdę, kiedy Will zajmował się raportowaniem, było to o wiele bardziej skomplikowane. Ludzie mówili, że to jak danie maluchowi piły łańcuchowej i że można wymyślić naprawdę, naprawdę świetne rzeczy. Tak, można zakodować całą aplikację i stronę internetową, po prostu rozmawiając z chatbotem, ale można też tworzyć naprawdę wadliwy kod, kod, który ma wszelkiego rodzaju luki w zabezpieczeniach. A ludzie mówili: „To się całkowicie psuje, gdy tylko zależy ci na funkcjonalności aplikacji, którą tworzysz”.

Leah Feiger: W tej chwili jestem oblana zimnym potem.

Zoë Schiffer: Wiem. Wiem. Pomyślałam sobie, że to wszystkie koszmary Leah połączone w jeden.

Leah Feiger: Moja prawdziwa historia grozy.

Zoë Schiffer: Leah, powinniśmy zlecić ci napisanie kodu wibracyjnego dla biznesu.

Leah Feiger: O mój Boże. Siedziałabym tam i zaczęła płakać. Szczerze mówiąc, to byłaby dobra treść. Dodaję coś do klikalnego piekła, które jest w sieci. To jest dobre. To dla nas pełne koło.

Zoë Schiffer: Teraz jesteś influencerką TikToka. Usłyszałaś to tutaj jako pierwsza. To jest nasz dzisiejszy program. Będziemy linkować do wszystkich historii, o których mówiliśmy w notatkach do programu. Koniecznie obejrzyj czwartkowy odcinek Uncanny Valley , który opowiada o firmach technologicznych i o tym, dlaczego stawiają na agentów AI. Wyjeżdżamy w przyszłym tygodniu i wrócimy w następnym. Adriana Tapia i Jordan Bell wyprodukowali ten odcinek. Amar Lal z Macro Sound zmiksował ten odcinek. Jake Lummus był naszym inżynierem dźwięku w Nowym Jorku. Jordan Bell jest naszym producentem wykonawczym. Szefem globalnego audio Conde Nast jest Chris Bannon. A Katie Drummond jest globalną dyrektorką redakcyjną WIRED.