A Disney acaba de dar um soco em uma grande luta de IA

A Disney e a Universal entraram recentemente com um processo contra a Midjourney , uma startup de geração de imagens por IA, alegando que a empresa se tornou um "poço sem fundo de plágio" e que reproduz livremente o conteúdo protegido por direitos autorais do estúdio, incluindo seus personagens mais icônicos. Analisamos os detalhes deste e de outros casos e explicamos como esse conflito nos dá uma visão das crescentes tensões entre empresas de IA, editoras e criadores.

Mencionado neste episódio: 'Wall-E com uma arma': Midjourney gera vídeos de personagens da Disney em meio a um grande processo de direitos autorais movido por Kate Knibbs e Reece Rogers Disney e Universal processam empresa de IA Midjourney por violação de direitos autorais por Kate Knibbs

Você pode seguir Michael Calore no Bluesky em @snackfight , Lauren Goode no Bluesky em @laurengoode , Katie Drummond no Bluesky em @katie-drummond e Kate Knibbs no Bluesky em @knibbs . Escreva para nós em [email protected] .

Você sempre pode ouvir o podcast desta semana pelo player de áudio nesta página, mas se quiser assinar gratuitamente para receber todos os episódios, veja como:

Se você usa um iPhone ou iPad, abra o aplicativo Podcasts ou simplesmente toque neste link . Você também pode baixar um aplicativo como o Overcast ou o Pocket Casts e pesquisar por "uncanny valley". Também estamos no Spotify .

Observação: esta é uma transcrição automatizada, que pode conter erros.

Michael Calore: Como estão todos na sala hoje?

Katie Drummond: Mike.

Michael Calore: Katie.

Katie Drummond: Estou inundada de estresse físico e psicológico.

Michael Calore: Ah, não.

Katie Drummond: Não sei se alguém que não more em Nova York sabe disso. Está muito quente aqui esta semana. Estamos em uma redoma de calor. Está muito quente, muito úmido, então estou fisicamente estressada. Também é a última semana de aula. Meu filho está terminando a escola esta semana, e o que isso significa basicamente, se você é pai ou mãe, você entende, é que as últimas três semanas de aula são totalmente falsas e todo dia há uma festa, todo dia há um pedido para que os pais tragam lanches. Dia sim, dia não, é meio período. Hoje foi o dia das cores. Use todas as suas cores favoritas. Também é dia de água, traga seu traje de banho. Vamos brincar com água. E é tipo, o quê? Não consigo acompanhar isso. Enfim, estou estressada por esses pequenos micro motivos, e então, obviamente, há o estresse planetário existencial maior acontecendo, sobre o qual acho que não preciso me aprofundar muito, mas tenho assistido bastante à CNN.

Michael Calore: Falando em checar as notícias. Toquei em um casamento neste fim de semana. Tenho uma banda e frequentemente somos contratados para casamentos, e em algum momento entre a cerimônia e a recepção, os Estados Unidos decidiram se envolver em uma guerra no Oriente Médio. Eu pensei: "Ok, isso é péssimo para quem vai se casar hoje, mas também temos que dar uma festa". Então, 20 minutos depois, eu estava no palco tocando covers, e todo mundo estava bêbado e dançando.

Katie Drummond: Os convidados do casamento reagiram? Foi um assunto de conversa no casamento ou eles estavam totalmente alheios às notícias?

Michael Calore: Acho que eles não estavam totalmente desconectados das notícias, mas estavam lá para festejar, então a festa começou sem interrupções.

Katie Drummond: Bem, fico feliz por eles. Às vezes, é preciso mesmo dar uma festa.

Michael Calore: Este é Uncanny Valley , da WIRED, uma série sobre as pessoas, o poder e a influência do Vale do Silício. Hoje, estamos falando sobre o recente processo movido pela Disney e pela Universal contra a startup de geração de imagens por IA, Midjourney. O processo alega que a Midjourney se tornou um, entre aspas, "poço sem fundo de plágio", entre aspas, e que reproduz livremente o conteúdo protegido por direitos autorais do estúdio, incluindo seus personagens mais icônicos. É a primeira vez que dois grandes estúdios de Hollywood movem uma ação judicial contra uma empresa de IA, e o processo tem o potencial de moldar a forma como a propriedade intelectual é tratada na era da IA. Vamos nos aprofundar nos motivos pelos quais os estúdios acreditam que a Midjourney está infringindo seu conteúdo e como esse conflito nos dá uma visão das crescentes tensões entre empresas de IA, editoras e criadores. Sou Michael Calore, diretor de Tecnologia e Cultura do Consumidor aqui na WIRED.

Lauren Goode: Sou Lauren Goode. Sou correspondente sênior da WIRED.

Katie Drummond: E eu sou Katie Drummond, diretora editorial global da WIRED.

Michael Calore: Então, antes de começarmos hoje, nossos ouvintes devem saber que temos uma convidada especial conosco, a inevitável Kate Knibbs, redatora sênior da WIRED, que tem acompanhado de perto o processo da Disney Universal e poderá nos contar tudo sobre ele. Bem-vinda ao Vale da Estranheza , Kate Knibbs.

Kate Knibbs: Olá, pessoal. Obrigada por me receberem.

Lauren Goode: Knibbs.

Katie Drummond: Obrigada por estar aqui.

Lauren Goode: Extreme Knibbs está no programa.

Kate Knibbs: Bem, da última vez que estive aqui, este podcast tinha um nome diferente e muito menos Katie, então isso é muito emocionante.

Lauren Goode: Estávamos apenas testando a versão beta para o dia em que poderíamos trazê-lo, Knibbs.

Michael Calore: Certo, vamos começar nossa conversa com a Midjourney. Kate, você pode nos contar do que se trata essa empresa? E também, estou curioso para saber se algum de nós aqui já a utilizou.

Kate Knibbs: A Midjourney é uma empresa bem pequena no segmento de IA generativa, pequena comparada a algo como a OpenAI. Sua principal ferramenta oferecida aos consumidores é, na verdade, bem semelhante ao DALL·E da OpenAI ou ao produto Stable Diffusion da Stability AI. Trata-se de uma ferramenta na qual você insere um prompt e ele cria uma imagem usando a mágica da IA ​​generativa com base nesse prompt. Por muito tempo, a maneira como você fez isso é um exemplo de quão pequena a Midjourney era. Você tinha que entrar no Discord e digitar seu prompt no chat do Discord, e era assim que você obtinha sua imagem. Não havia nem mesmo uma interface web dedicada até 2024. Agora, ele acaba de lançar uma opção de vídeo, então está definitivamente se expandindo e continuando a crescer, mas eu diria que é um player secundário ou terciário no cenário.

Michael Calore: Então por que a Disney e a Universal, esses dois gigantes de Hollywood, estão processando a Midjourney?

Kate Knibbs: Bem, eles alegam que o Midjourney está infringindo a propriedade intelectual deles. Se você já mexeu no aplicativo, agora é só uma interface web, você insere o que quiser e ele exibe o que você quiser. Não há as proteções mais sofisticadas. Então, se você quisesse fazer uma imagem que mostrasse, por exemplo, Homer Simpson ou Wally ou Darth Vader ou o Chefinho, que aparentemente é um dos desenhos animados mais amados da Universal.

Katie Drummond: Eu adoro Boss Baby.

Kate Knibbs: Bem, você pode fazer isso facilmente, e muitas pessoas têm compilado diferentes exemplos de como é fácil criar imagens que apresentem personagens da Disney, da Universal e outros personagens populares usando ferramentas como a Midjourney. Não sei como foram as conversas nos escritórios da Disney e da Universal, mas aparentemente eles já estavam fartos. Eles estão atrasados ​​no processo de direitos autorais de IA. Já houve dezenas e dezenas de processos movidos, incluindo alguns contra a Midjourney, mas eles fizeram sucesso porque a queixa contra a Midjourney apresenta centenas de imagens de seus personagens muito, muito reconhecíveis, que foram criadas pelas ferramentas de IA da Midjourney.

Katie Drummond: Quem aqui tem o MidJourney? Vocês, Mike e Lauren, usam essa ferramenta? Kate, imagino que você já tenha experimentado bastante.

Lauren Goode: Acho que usei uma vez, e ter que ir ao servidor do Discord para digitar o prompt foi uma barreira total, e eu pensei: nunca mais vou usar isso. É.

Katie Drummond: Experiência ruim do usuário.

Lauren Goode: Não tentei desde então, mas com certeza. É. E você, Mike?

Michael Calore: Eu o usei algumas vezes, principalmente pedindo para fazer gatos surfarem ou fazerem panquecas, só porque eu estava em apuros, mas sim, um amigo meu tem acesso e me mostrou, e eu consegui digitar algumas instruções. Isso aconteceu quando ele era apenas um gerador de imagens, então não estava gerando vídeos, mas pelo que entendi agora, você gera uma imagem e clica em "animar", e ele a transforma em uma animação.

Lauren Goode: Selvagem.

Michael Calore: Sim.

Lauren Goode: Kate, quanto você usava antes de relatar a história?

Kate Knibbs: Comecei a brincar com muitos geradores de imagens em 2023, quando comecei a escrever mais sobre IA, só para entender como funcionavam. E não sei, simplesmente não estou muito interessada em gastar meu tempo gerando imagens de IA. Definitivamente, sou mais uma garota com mestrado em Administração de Empresas (LLM) se você quiser se aprofundar nas ferramentas de GenAI que usamos, então acho que as usei basicamente para testes. Não as tenho incorporado à minha prática criativa pessoal.

Katie Drummond: Adoro a expressão "prática criativa pessoal". É incrível. Todos nós temos uma.

Lauren Goode: Katie, você já usou?

Katie Drummond: Não. Bem, eu não usei, mas uso indiretamente porque sou casada com alguém que adora IA generativa, usa todas as ferramentas possíveis de IA generativa a qualquer hora do dia ou da noite, usa bastante o Midjourney e está constantemente gerando novas imagens como parte de sua prática criativa pessoal. Há muita atividade com o Midjourney na minha casa. Simplesmente não posso dizer que, pessoalmente, estou gastando meu tempo gerando imagens com IA generativa. Não,

Lauren Goode: Justo. Acho que estamos caminhando para um episódio, Katie, em que seu cônjuge se junta a nós neste programa.

Katie Drummond: Meu Deus, a gente nunca saía do estúdio. Ficávamos aqui sete, oito horas. Sou casada com uma pessoa muito falante.

Lauren Goode: Seria como um podcast adquirido, mas Uncanny Valley ... Certo, voltando a este processo. Kate, algo que me chamou a atenção na sua reportagem é que a Midjourney tem sido muito, muito aberta sobre o fato de estar apenas vasculhando a internet para treinar seu modelo e criar esse conjunto de dados de imagens. Isso é algo que sabemos que todas as startups de IA generativa fazem, mas o CEO da Midjourney foi muito franco sobre isso e disse, há alguns anos, que simplesmente não há como obter cem milhões de imagens e saber de onde elas vêm. Ele disse, entre aspas: "Seria legal se as imagens tivessem metadados incorporados sobre o detentor dos direitos autorais", ou algo assim. Mas isso não existe. Não há um registro, e muitas startups, em vez de esperar que essa tecnologia se atualizasse ou que houvesse barreiras de segurança, simplesmente avançaram a todo vapor e estavam abertamente copiando conteúdo da Disney da internet. É isso que estamos obtendo com isso?

Kate Knibbs : Foi definitivamente isso que ele disse, e eu quero enfatizar que, na época em que essas ferramentas estavam sendo criadas, mesmo um ou dois anos atrás, esse pensamento era quase universal no Vale do Silício. Não havia muito debate sobre se raspar a internet era aceitável para criar esse tipo de ferramenta. Presumia-se apenas que, se você pudesse raspar algo da internet, então era justo. E na época em que ele fez esses comentários, acho que era 2022, estávamos em um espaço muito diferente. Desde então, houve todo esse boom ligado à ascensão da IA ​​generativa, onde há todas essas empresas diferentes que são basicamente... não acho que tenham metadados incorporados em imagens, mas há mercados de licenciamento, há todas essas diferentes startups de licenciamento. Muitas empresas diferentes estão fazendo acordos de licenciamento.

Lauren Goode: Houve também uma coalizão, acho que liderada pela Adobe, e várias empresas de tecnologia começaram a se envolver especificamente com marcas d'água em imagens. É algo parecido?

Kate Knibbs: Sim. Sim. Então é exatamente disso que estou falando. Simplesmente decolou. As pessoas perceberam que havia uma grande oportunidade de mercado aqui para criar acordos de licenciamento e pagar por conteúdo usado como dados de treinamento. Então, na época, acho que ele provavelmente disse isso de boa-fé, mas acho que agora dizer isso soaria meio ridículo, porque você teria que ignorar todas essas diferentes iniciativas, programas e startups que surgiram, e todas as dezenas de processos que surgiram dizendo, na verdade, não. É uma violação de direitos autorais treinar seus modelos dessa maneira.

Katie Drummond: Devo dizer que é lamentável para ele e sua empresa que ele tenha dito coisas assim publicamente, quando, avançando para 2025, temos a Disney, que é notoriamente rigorosa em relação a direitos autorais, liderando essa luta contra a Midjourney. E, pelo que sabemos, o principal advogado da Disney, Horacio Gutierrez, liderou essa luta jurídica basicamente pedindo a seus colegas de Hollywood que se juntassem a ela. Então, convidou várias dessas empresas diferentes. Eventualmente, a Comcast Corporation, dona da NBC Universal e da Universal Studios, concordou em participar. Então, o fato de a Disney estar realmente assumindo a liderança aqui... Eu diria que não sou advogada, mas Kate, você entende que essa é uma situação particularmente estressante para se encontrar se você for a Midjourney, e de repente, a Disney, especificamente a Disney, está se destacando...

Kate Knibbs: É literalmente a pior coisa que poderia acontecer.

Katie Drummond: Ah. Ai.

Kate Knibbs: A Disney é a chefe final dos litígios de direitos autorais, e se houver um segundo chefe final, a Midjourney se encontra em uma situação difícil. Esta não é a primeira vez que a Midjourney está sendo processada por violação de direitos autorais. Há um grupo de artistas visuais que entrou com um processo há vários anos, mas esta é uma escalada enorme. Isso está indo de um jogo de beisebol infantil para uma série mundial.

Katie Drummond: Ah, estou arrepiada.

Michael Calore: Então, o processo foi aberto no início de junho e, em poucas semanas, a Midjourney lançou uma atualização para seu conjunto de ferramentas de IA generativa. Eles lançaram uma ferramenta de geração de vídeo chamada V1. Kate, na semana passada, você publicou uma matéria exclusiva para a WIRED sobre a V1 e observou que ela reforça esse padrão de exibição de imagens protegidas por direitos autorais da Disney e da Universal. Então, o que você descobriu ao testá-la?

Kate Knibbs: Sim, direi isso sobre Midjourney. Eles são ousados. São uma empresa ousada, porque Reese e eu, nosso colega, testamos e ainda conseguimos gerar vários vídeos diferentes com destaque para personagens da Disney e da Universal. Além disso, alguns dos vídeos que conseguimos gerar muito rapidamente apresentavam personagens da Disney fazendo coisas nada Disney, como Wally, o adorável robô do filme homônimo, segurando uma arma, e então Yoda fumando um baseado. E recebi muitos comentários de que parecia que o Yoda estava chapado de qualquer maneira, então talvez isso seja realmente Canon, mas ainda assim.

Lauren Goode: Esses são apenas mascotes para a eternidade. O que é mais representativo desta época do que o Wally segurando uma arma?

Kate Knibbs: Sim. Mas sim, então eles pareciam ter algumas proteções. Havia certos personagens, acho que Darth Vader era um deles, cujo nome tivemos que escrever errado, então houve pelo menos um pequeno esforço para impedir as pessoas, mas ainda assim foi incrivelmente fácil gerar os vídeos. Não sei onde isso deixa Midjourney. Não parece um lugar ótimo.

Michael Calore: Então, isso é interessante. Para que alguns caracteres aparecessem, obviamente alguns dos nomes dos personagens foram bloqueados, mas para que alguns caracteres aparecessem, você poderia simplesmente digitar o nome deles errado e isso passaria pelos filtros e geraria algo que era exatamente o que você estava digitando?

Kate Knibbs: Sim, sem dúvida. Não era um Shrek ou Darth Vader super vulgar. Era o personagem que conhecemos.

Katie Drummond: Você testou o Boss Baby?

Kate Knibbs: Esse pode ser nosso grande erro.

Katie Drummond: Aí está seu próximo acompanhamento.

Kate Knibbs: Eu deveria fazer um acompanhamento só para ver quanta coisa ruim eu consigo fazer o Boss Baby fazer.

Katie Drummond: Meu chefe me fez gerar o Boss Baby.

Kate Knibbs: Eu gosto de "O Poderoso Chefinho". Acho esses filmes hilários. É o melhor trabalho de Alec Baldwin. Bem...

Michael Calore: Então, existem dezenas de processos contra empresas de IA por violação de direitos autorais neste momento, e o fato de esses modelos serem treinados em trabalhos já existentes sempre foi uma questão controversa. Então, vamos falar sobre os impactos que a Disney e a Universal, especificamente, terão nessa luta, agora que uniram forças contra a IA generativa. O que torna este caso diferente dos demais processos que ainda estão em andamento?

Kate Knibbs: Bem, como falamos antes, só o fato de a Disney estar fazendo isso sozinha já é suficiente para chamar a atenção de todos. Esta é a empresa que você não quer que processe você por violação de direitos autorais. Além disso, e isso se liga ao fato de que esta não é a empresa que você quer que processe você por violação de direitos autorais, todos os especialistas em direitos autorais com quem conversei enfatizaram bastante a qualidade da argumentação da queixa, incluindo alguns especialistas em direitos autorais que geralmente são muito a favor do uso justo e não estão universalmente do lado dos autores. Eles realmente disseram: "Nossa, acho que vai ser difícil para a Midjourney apresentar o argumento do uso justo". Um dos especialistas, Matthew Sag, que é professor de direito da internet na Universidade Emory, acredito, não é alguém que acha que todos esses casos vão acabar bem para os autores. Ele tende a ser bastante cético em relação a esses casos e até disse: "Não sei como a Midjourney vai abordar isso porque simplesmente não acho que os jurados vão acreditar que milhares de imagens de Darth Vader não infrinjam direitos autorais". Então, o fato de a Disney ter apresentado muitos recibos, acredito, é motivo adicional de preocupação para a Midjourney, assim como para todas as empresas que não estão sendo processadas no momento, mas que podem ser as próximas.

Lauren Goode: Bem, falando de Darth Vader, a Disney recentemente licenciou o uso da voz de Darth Vader para um chatbot em Fortnite. Todo mundo sabe o que é Fortnite, certo? E o interessante sobre isso é que esse acordo acabou causando alguma reação negativa dos atores no SAG-AFTRA, que é o sindicato que representa atores e dubladores e coisas do tipo, onde eles estavam argumentando que este é um exemplo de vozes geradas por IA substituindo seu trabalho, seu trabalho muito humano, sem autorização, e a Disney também teria conversado com empresas como a OpenAI sobre possíveis parcerias. Então, o interessante sobre esse processo é que a Disney está reagindo contra a Midjourney pelo que considera uso injusto e ilegal de sua propriedade intelectual, mas a própria Disney está tomando essas medidas para adotar a IA em Hollywood.

Katie Drummond: Bem, e eu acho que todos esses processos e essa ação judicial, e até mesmo esses acordos que a Disney está fazendo, esses acordos de licenciamento, tudo isso combinado, eu acho, apenas destaca o quão pouca regulamentação ou legislação existe sobre como a IA pode ou não ser usada quando se trata de obras protegidas por direitos autorais e propriedade intelectual. E então você está basicamente pedindo aos tribunais que tomem seus próprios julgamentos sobre esses casos, mas não há uma estrutura que realmente sustente exatamente o que eles estão decidindo ou em que essas decisões se baseiam. Kate, é esse o seu entendimento de onde estamos em termos de qualquer tipo de regulamentação real sobre isso?

Kate Knibbs: Sim, definitivamente acho que será algo que caberá aos tribunais decidir, especialmente porque a moratória de dez anos do Big Beautiful Bill sobre a legislação de IA em nível estadual parece estar em vigor. E devo dizer que muitas pessoas de ambos os lados não parecem tão chateadas com isso. Acho que há uma sensação de que pode ser muito difícil regulamentar isso adequadamente sem sufocar a inovação. Não estamos vendo um grande clamor por uma lei federal para fornecer as proteções aqui. Basicamente, será decidido pelos tribunais. Provavelmente, o primeiro caso que for levado até a Suprema Corte.

Michael Calore: Uau. Espero que o Yoda fumando um baseado esteja registrado oficialmente na Suprema Corte dos EUA. Tudo bem. Bem, vamos fazer uma pausa rápida e já voltamos. Bem-vindos de volta ao Uncanny Valley . Então, temos falado sobre o recente processo movido pela Disney e Universal contra a Midjourney, mas a batalha de direitos autorais de IA não está acontecendo apenas em Hollywood, está acontecendo em todos os lugares. E nossa convidada de hoje, Kate Knibbs, criou uma página de rastreamento onde os leitores da WIRED podem ver como os processos de direitos autorais de IA estão se desenrolando em muitos setores. Kate, você pode nos contar sobre alguns dos principais processos que chamaram sua atenção e quais setores parecem ser os mais ativos em processar empresas de IA?

Kate Knibbs: Então, inicialmente houve muita movimentação, com autores de livros processando empresas de IA e agora veículos de mídia processando-as, artistas visuais e, mais recentemente, algumas gravadoras. O caso da Disney também é notável porque foi a primeira vez que o Hollywood Studios entrou na jogada. Eles ainda não estavam realmente neste mundo. As empresas de mídia, eu diria que o maior ator lá é o New York Times, que está processando a OpenAI. O processo que ele moveu, ouvi coisas semelhantes sobre o que ouvi sobre o da Disney, que é excepcionalmente bem argumentado e tinha muita ênfase em mostrar resultados dos LLMs que eram idênticos aos artigos do New York Times. Então, esse é definitivamente um grande caso a ser observado, mas houve alguma movimentação em alguns outros. Kadri versus Meta, que é Richard Kadri é um romancista, um grupo de romancistas processou a Meta. Essa foi bem picante porque saiu na descoberta de que a Meta havia pirateado muitos dos livros com os quais acabou treinando e ela admite abertamente que fez isso, e o juiz que está no caso é apenas um personagem, então eu realmente gosto de assistir às audiências para entretenimento. Se alguém por aí for tão nerd quanto eu, pode fazer a transmissão ao vivo, e eu recomendo. Essa pode ser uma das primeiras a ir a julgamento ou a julgamento sumário. E então Barts versus Anthropic é outro romancista. Essa também está progredindo rapidamente e o juiz em exercício é muito conhecido por ser versado em uso justo, então algo pode acontecer lá. E então a Suno e a Udio, que são duas geradoras de músicas de IA, foram processadas pelas grandes gravadoras, mais recentemente, mas já houve conversas acontecendo entre as gravadoras e as geradoras de músicas, negociações para um acordo. Então, se chegarem a um acordo, será um grande negócio, porque estamos procurando o que vai a julgamento e o que vai ser resolvido. Eu poderia continuar, mas acho que essas são as coisas que vocês deveriam conhecer.

Michael Calore: Então, o setor editorial está definitivamente no topo da lista de setores que se preocupam com a possibilidade de a IA plagiar trabalhos originais, e todos nós deveríamos saber, porque estamos todos no setor editorial. Mas há o conteúdo que é o oposto do trabalho humano e bem pensado: a desleixo da IA. O termo se explica quando você o diz em voz alta, mas vamos falar rapidamente sobre o que é desleixo da IA ​​e por que ele parece estar em toda parte.

Lauren Goode: Eu aceito essa, mas também quero devolver para a Kate, porque Kate, você é a rainha da desorganização da IA, e não quero dizer que você a gere. Não quero dizer que faça parte do seu vetor pessoal de criação de conteúdo ou como quer que estejamos chamando, mas você escreveu muito sobre isso. Desorganização da IA ​​é apenas conteúdo de IA de baixa qualidade e de má qualidade que está aparecendo online. Está proliferando em nossos feeds. Está frequentemente nas redes sociais, mas não apenas nas redes sociais. Agora está sendo apresentado como legítimo, entre aspas, "jornalismo". Por exemplo, no mês passado, o Chicago Sun-Times e o Philadelphia Inquirer publicaram seções especiais recomendando listas de leitura de verão, e a lista incluía um monte de livros inventados por autores reais, e esses nomes e títulos foram simplesmente lançados aleatoriamente. Desorganização não é apenas coisa inventada. Acho que tem uma certa estética. Faz parte dessa tendência crescente de enshitificação da internet, sobre a qual, claro, Cory Doctorow escreveu para o Wire.com alguns anos atrás e que agora é apenas o termo que usamos. Parece spam, e às vezes é facilmente reconhecível e às vezes simplesmente não é.

Katie Drummond: Então você quer dizer que os vídeos que vejo no TikTok de Donald Trump e Jesus Cristo caminhando na praia não são reais?

Lauren Goode: Não, são reais.

Katie Drummond: Ah, tá. Isso acontece.

Lauren Goode: Isso realmente aconteceu.

Katie Drummond: Ah, tá. Porque eu curti todos eles, porque quero ver mais. Então, esses são de IA. Entendi. Tá.

Lauren Goode: Sim, exatamente. O mesmo acontece com JD Vance dançando break com o Papa Leo, essas são reais.

Katie Drummond : Ah, eu tenho... Sim, claro.

Lauren Goode: Sim. Ainda não o matou.

Michael Calore: Muitos desses exemplos são engraçados ou divertidos, mas há outros mais sérios. Houve uma confusão sobre IA surgindo dos eventos atuais no Oriente Médio recentemente, certo?

Katie Drummond: Ah, claro. É.

Michael Calore: E políticos e líderes mundiais retuitarão essas coisas, mesmo sabendo que são falsas, só porque isso apela à sensibilidade deles e os ajuda a espalhar a mensagem que desejam espalhar.

Katie Drummond: Ah, eu faço piadas quando estou estressada e desconfortável, e eu diria que é incrivelmente desconfortável e estressante. Acho que todos vocês concordariam que eu sou jornalista agora. Tentem ser o editor-chefe, deixe-me dizer. E, na verdade, assistir à proliferação de lixo de IA pela internet, em todas essas plataformas, às vezes ser confundida com informações factuais pelos consumidores, ao mesmo tempo em que estamos neste momento existencial para as notícias e a mídia. Mais uma vez, estamos em um momento existencial para as notícias e a mídia, de muitas maneiras por causa da IA, por causa da maneira como o Google está mudando sua busca, por causa de outras maneiras pelas quais a IA está mudando a forma como as pessoas acessam a informação. Os editores mais uma vez estão essencialmente na mira de tudo isso, e para piorar a situação, você abre o TikTok e Jesus e Donald Trump estão pescando, e é como se estivesse em todo lugar. É como se estivesse ao seu redor se você for jornalista, porque você estava vivenciando o próprio lixo. Você está vendo o que isso está fazendo com o cenário da informação online, e então você está batendo a cabeça contra a parede porque o Google fez isso, aquilo ou aquilo com visões gerais de IA, e de repente eu estou inventando números. Eu estou genuinamente inventando números, mas de repente, seu tráfego de busca caiu 50%, e isso tem ramificações existenciais para os editores. Há também uma coisa estranha acontecendo que chamou minha atenção, e Kate, você relatou sobre isso, que é onde o conteúdo gerado por IA é, na verdade, como um recurso para alguns sites e realmente funciona muito bem para eles. Então, a WIRED descobriu que mais de 54% das postagens mais longas em inglês no LinkedIn, a rede social favorita de todos, são provavelmente geradas por IA. Agora, o LinkedIn disse que monitora as postagens para identificar conteúdo repetitivo e de baixa qualidade, mas a IA provavelmente é muito boa no LinkedIn porque a escrita genérica e sem graça é o que o LinkedIn prospera. Eu acho isso interessante. Não é necessariamente uma coisa boa, mas é apenas mais uma indicação de quão difundida a IA generativa se tornou online.

Michael Calore: Sim, e é particularmente difícil quando se tornou onipresente nos lugares em que costumávamos confiar para obter informações precisas ou nos lugares que usamos para pesquisas. Poucas pessoas estão acostumadas a acessar o Facebook para encontrar informações precisas, mas o Facebook costumava ser o lugar onde você ia para obter notícias. Agora, se você ainda dependia de programas Meta para encontrar notícias, não encontrará tantas notícias precisas quanto antes. Você pode não perceber essa erosão acontecendo, mas ela está acontecendo. Acho que o maior exemplo provavelmente é o Google, porque todo mundo está acostumado a acessar o Google, digitar algo e obter uma resposta confiável. E agora, com as visões gerais de IA, o modo de IA e todas as diferentes interfaces que o Google está investindo com ferramentas de IA para gerar essas respostas, você não pode mais garantir que obterá respostas precisas. Então, se você está acostumado a usar essas ferramentas testadas e comprovadas, o que deve fazer agora?

Katie Drummond: Eu acrescentaria também, sobre o Google, que você não só está potencialmente obtendo informações imprecisas. Se você pesquisar algo no Google e encontrar uma visão geral da IA, é bem possível que ela seja completamente imprecisa. Também é bem possível que essa visão geral da IA ​​tenha sido gerada usando jornalismo de editoras que dependem do público que vem diretamente até elas, aos seus links para gerar receita, e que elas simplesmente perderam a oportunidade de ganhar um dinheirinho e atrair alguém para sua publicação, porque o Google basicamente sugou a informação e agora a fornece apenas em uma lista organizada de tópicos no topo da página. Então, dois cenários muito ruins, dependendo. A informação pode ser precisa e ter sido retirada do wired.com e não recebermos nada por ela, ou pode ser simplesmente lixo.

Kate Knibbs: Hum-hum. É.

Michael Calore: Certo. Bem, para não sermos pessimistas, quero dar um pequeno conselho aos nossos ouvintes sobre o que eles podem fazer se estiverem ouvindo isso e se sentindo preocupados. Como encontrar boas informações na internet no mundo do AI Slob?

Lauren Goode: Assine o wired.com, mas, sinceramente, você deveria.

Kate Knibbs: Essa é a grande lição, assine a WIRED.

Lauren Goode: Sim.

Kate Knibbs: Acho muito importante que todos nós tratemos... Não estou dizendo para nunca usar um produto de busca com IA, ok? Porque, sei lá, você não vai me ouvir sobre isso e provavelmente vai me ouvir, considerando que meu marido adora pedir conselhos de vida ao ChatGPT sobre tudo.

Lauren Goode: Meu Deus, o meu também faz isso.

Kate Knibbs: Vou dizer para ele não fazer isso.

Lauren Goode: É, é. Brincadeira. Não tenho marido, mas queria muito participar do diálogo sobre isso.

Katie Drummond: Isso é uma bobagem de IA, Lauren.

Lauren Goode: Sim, exatamente. Ele só estuda em outra escola.

Kate Knibbs: Mas você precisa usá -lo com o conhecimento de que é um ponto de partida. Você precisa verificar o que está cuspindo de volta para você. Ok. Então comprei uma cobra para meu marido de verdade no Dia dos Pais, porque eu me odeio, mas ele realmente queria um, e ele está usando o bate -papo para descobrir como cuidar disso, porque não analisei o quão alta eles são e acaba que eles comem ratos. É uma coisa toda. E a maioria das informações realmente tem sido precisa, mas eu fiquei tipo: "Você precisa verificar novamente, porque o que isso está lhe dizendo". Eu fiquei tipo, "Você tem certeza sobre o rato?" E era verdade. Mas o que quero dizer é que, pessoal, você precisa verificar o que quer que os mecanismos de busca da IA estejam lhe dizendo. Não apenas alimente uma cobra ou rato, porque é isso que diz. Vá para a biblioteca e procure um livro.

Katie Drummond: Que exemplo visceral e chocante você forneceu para fazer backup de sua afirmação. Uau. Ok.

Lauren Goode: Gosto de como você nem disse fazer uma pesquisa legítima na Internet. Você foi direto para: "Eu preciso que você vá ao catálogo de cartas e preciso que você cavasse por lá e encontre a velha Britannica sobre como cuidar de uma cobra". Eu amo isso. Minha outra recomendação, saia do Facebook. Basta sair do grande Facebook principal azul. Sério, pessoal? Nós ainda estamos realmente lá? Você já viu isso ultimamente?

Michael Calore: Sim.

Kate Knibbs: Foi onde eu peguei minha cobra.

Lauren Goode: Você está falando sério? Eles precisam girar o mercado. Eles precisam fazer isso separado ... eles precisam dividir um aplicativo. Eu também estou no mercado. Apesar disso, todos devem sair do Facebook por causa da quantidade incrível de inclinação de IA que está lá.

Michael Calore: E é fácil dizer que apenas verifique o que você está procurando e verifique as fontes, mas muitas pessoas simplesmente não estão fazendo isso. E é difícil porque parece que toda opção de mecanismo de pesquisa está incorporando agora a IA. Lembro -me de quando a IA foi lançada pela primeira vez e as pessoas disseram: "Eu não gosto disso. O que devo fazer?" Eu recomendaria que as pessoas apenas usem um mecanismo de pesquisa diferente como Brave ou DuckDuckgo. Mas agora os dois mecanismos de pesquisa incorporaram sua própria versão das visões gerais da IA no topo de todas as páginas dos resultados da pesquisa, e acho que o único mecanismo de pesquisa que descobri que não faz isso é a Ecosia. ECOSIA.

Lauren Goode: Parece um produto de limpeza.

Michael Calore: Eles chamam isso de ecósio porque é bom para o meio ambiente. Eles não fervem os oceanos para alimentá -lo. Eles compensaram suas emissões de carbono plantando árvores. Mas esse é o único mecanismo de pesquisa que achei que parece um mecanismo de pesquisa real que realmente oferece bons resultados e não coloca uma visão geral da IA na parte superior, então isso é um passo.

KATIE DRUMMOND: Sinto muito firmemente que as pessoas só precisam ir diretamente para a fonte, período, fim. Quando se trata de informações ou entretenimento, acho que identificar quais fontes você confia, escolha um punhado. Se estiver conectado, estamos agradecidos e isso é fantástico. Se é o New York Times ou o FT ou o Wall Street Journal, seja o que for, e basta passar um tempo com eles diretamente. Quanto menos tempo acho que as pessoas passam com intermediários, seja no Facebook, Google, ChatGPT ou X ou qualquer outra coisa, melhor. Esta é a Internet como agora a conhecemos e será o que a Internet é no futuro, e as pessoas precisam começar a se acostumar diretamente para a fonte de informação ou entretenimento com o qual escolhem passar o tempo.

Lauren Goode: Quando penso sobre isso filosoficamente, penso muito no fato de que, voltando à história da internet social, à Internet do consumidor, havia essa idéia de que estávamos offline e então você ficou on -line e isso era como uma vida alternativa e as pessoas literalmente criaram uma vida alternativa ou eles estavam vivendo na segunda vida, mas havia essa idéia que não era real. E então eu penso que, por volta dos anos 2010, mais ou menos, constantemente faríamos que o argumento estivesse no Twitter: "Não, esse tipo de vida real, ou pelo menos é um reflexo da vida real". E agora parece que o pêndulo voltou a voltar, onde estamos sempre online, mas muito disso não é a vida real, e é assim que está começando a se sentir por causa de coisas como V1 ou Google VEO 3. Alguns desses vídeos são incrivelmente realistas e com certeza, isso é muito legal para o nosso vetor pessoal que estamos falando de terrivelmente.

Michael Calore: Sim.

Katie Drummond: É uma prática criativa pessoal.

Lauren Goode: Muito obrigado. Prática criativa pessoal.

Michael Calore: Compartilharemos nossos avisos no LinkedIn. Encontre -nos lá. Ok, vamos fazer outra pausa e depois voltaremos. Obrigado a todos por uma ótima conversa hoje. Vamos mudar as marcas agora para nossas recomendações pessoais para nossos ouvintes, Kate, como nosso convidado no assento quente, você pode ir primeiro. Qual é a sua recomendação?

Kate Knibbs: Bem, construindo o que Lauren acabou de dizer sobre o Second Life e, a propósito, quero ler um ensaio inteiro de você sobre isso, então acho que você deveria lançar um. Este livro chamado Second Life, de Amanda Hess, que é escritor do New York Times. Segundo vida, trata -se de ter um filho na era digital, e é de grande interesse para mim porque uma das minhas obsessões de animais de estimação é que deve ser ilegal colocar crianças na internet. Então, peguei este livro não sabendo o que esperar. É muito mais sobre ser pai na era da Internet. É muito bem escrito e interessante, e adorei ler uma cópia física sem telas ao meu redor.

Michael Calore: Bom.

Lauren Goode: Ame isso.

Michael Calore: Quem quer ir a seguir?

Lauren Goode: Eu irei a seguir. Também está relacionado ao livro. Então, eu estava no Texas e, no hotel em que eu estava hospedado, havia uma cópia da ficção curta americana. É uma organização literária sem fins lucrativos com sede em Austin, Texas, onde eu estava, que divulga essas compilações regulares de ficção. Ouvinte, tenho algo a compartilhar, que é que o roubei do hotel. Estava na sala e comecei a lê -lo e não terminei todos os contos, e precisava. Eu tive que porque essa é a arte do conto, da história curta americana. E então eu levei comigo. Provavelmente vou ser cobrado por isso. Vou pagar, está tudo bem. Mas você não precisa necessariamente ler este diário literário, American Short Fiction, mas eu recomendo mergulhar em alguns contos se precisar de uma pausa das notícias e não estiver pronto para enfrentar seu próximo livro,

Michael Calore: Não vou julgá -lo por tomá -lo. Quando eu fico no Airbnbs, de vez em quando, vou roubar um livro.

Katie Drummond: Isso é ultrajante.

Michael Calore: Mas então eu tento fazer bem quando estou hospedado em algum lugar e termino um livro, eu coloquei na prateleira

Lauren Goode: Também. Não é como se eu estivesse pegando e depois passando como minha própria escrita, lutando com um monte de personagens ao redor e cuspindo de volta. Não estou dizendo que as pessoas roubam assim, mas às vezes podem.

Michael Calore: Às vezes eles podem.

Lauren Goode: Sim.

Katie Drummond: Meus livros ficam comigo e os livros de outras pessoas ficam com eles. É assim que eu corro minha vida no livro, mas tenho uma recomendação.

Michael Calore: Ok.

Lauren Goode: Conte -nos.

KATIE DRUMMOND: E eu acho que isso é realmente interessante porque pensei nisso antes de gravarmos, e então passamos todo esse tempo conversando sobre Genai. E talvez seja o que é indicativo de nosso relacionamento complicado com essas ferramentas, minha recomendação é realmente sobre o ChatGPT, que é se você já quis um designer de interiores, mas não quis gastar dinheiro com um, desculpe -se por trabalhar nessa profissão. This weekend, I went into a little tizzy where I wanted to get new furniture for our living room, and you know I'm married to a chronic generative AI user and abuser, and I said to him, "Can you take photos of our living room and upload them to ChatGPT, and upload the URLs to the furniture stores that we like and where we typically buy furniture and tell it that we have this many dogs and this many kids and all the salient details about our life, and have it Redesenhar nossa sala de estar e depois gerar imagens da sala de estar com este novo mobiliário? Foi muito, muito legal. Temos todos esses designs diferentes para a nossa sala de estar com listas de móveis. Foi muito legal.

Lauren Goode: Isso é muito legal.

Katie Drummond: Então, se você está pensando em comprar móveis novos ou mover coisas em sua casa ou redesenhar algo, o ChatGPT pode ajudar e, em seguida, você pode encontrar um designer de interiores e também pode pagá -los, porque Deus o proibiu, recomendo colocar alguém fora do trabalho. Eu não quero fazer isso, mas foi um exercício muito legal.

KATE KNIBBS: Eu leria, deixei o Chat GPT redesenhar minha sala de estar também.

KATIE DRUMMOND: E então eu poderia gastar. Eu poderia gastar todos os meus novos móveis ao orçamento da Wired. Esta é uma ideia muito boa. Esta é uma ideia muito boa.

Kate Knibbs: Todos nós devemos apenas escolher um quarto. Pode ser como uma questão temática.

Katie Drummond: Sim, pode ser um projeto de grupo inteiro.

Michael Calore: Também vou recomendar um livro. É chamado de Argonauts, de Maggie Nelson. Este é um livro que foi lançado, oh, eu não sei, há nove anos, há 10 anos, e eu o comprei usado há alguns anos e ele estava na minha prateleira. É um livro esbelto, não parece uma tarefa de ler, mas eu nunca realmente cheguei a isso. E então eu peguei um capricho algumas semanas atrás e sonei em cerca de três ou quatro dias, e é fenomenal. É um livro de memórias. É sobre sua vida com seu parceiro, que é uma pessoa fluida de gênero. Eles têm um filho juntos, e também é uma mistura de filosofia, história e história familiar. É apenas um lindo ensopado de escrever a uma distância muito pessoal e quase acadêmica, misturada com os aspectos pessoais. É um livro estranho, difícil de descrever, como você pode imaginar, considerando que estou tendo dificuldade em descrevê -lo, mas diria que é um livro de memórias mais do que qualquer coisa, e é realmente tocante e apenas um livro realmente bonito e apenas uma escrita fenomenal. Eu também amo realmente a maneira como ele gira em uma conclusão,

KATIE DRUMMOND: Redia o final.

Michael Calore: Sim. Realmente faz.

Katie Drummond: Assim como estamos prestes a.

Michael Calore: Assim como fizemos. Bem, obrigado a todos por estarem aqui. Esta foi uma ótima discussão. Bom show.

Lauren Goode: Isso foi muito divertido.

Kate Knibbs: Bom trabalho, pessoal. Feliz por estar de volta.

Katie Drummond: Boa equipe de emprego.

Michael Calore: Obrigado por ouvir o Uncanny Valley . Se você gosta do que ouviu hoje, siga nosso programa e avalie -o no aplicativo de podcast de podcast. Se você quiser entrar em contato conosco com qualquer dúvida, comentários ou sugestões, você pode nos escrever em [email protected] . O show de hoje foi produzido por Adriana Tapia e Kyana Moghadam. Amar Lal em Macrosound misturou este episódio. James Yost era o nosso engenheiro de estúdio de Nova York. Shireen Mohyi verificou este episódio. Jordan Bell é nosso produtor executivo. Katie Drummond é diretora editorial global da Wired, e Chris Bannon é Conde Nast, chefe de áudio global.