Museu de Auschwitz critica a IA de Musk por adicionar dreadlocks a vítima do Holocausto

O Museu de Auschwitz criticou o Grok, um chatbot de inteligência artificial (IA) desenvolvido pela empresa xAI de Elon Musk, por adicionar dreadlocks a uma imagem de um judeu polonês que foi um dos mais de um milhão de mortos no campo nazista-alemão durante a Segunda Guerra Mundial.

O museu apelou aos criadores de todos os sistemas de IA para que implementem salvaguardas que impeçam o “ridículo” das vítimas do Holocausto.

A controvérsia começou quando o Museu de Auschwitz postou uma imagem no X, a plataforma de mídia social também de propriedade de Elon Musk, de Rufim Hermannstadt, que foi transportado para o campo em 2 de abril de 1942 e morreu lá menos de três semanas depois.

Abaixo dela, um usuário anônimo pediu à Grok, que opera no X, para alterar a imagem e criar dreadlocks como os de Hermannstadt. Muitos usuários da plataforma pedem à Grok para produzir essas imagens alteradas ou inventadas.

Grok respondeu ao pedido, publicando a mesma imagem que Auschwitz havia publicado, mas com dreadlocks adicionados a Hermannstadt, cuja cabeça havia sido raspada na foto original, como todos os prisioneiros do campo.

Em um comunicado publicado no X na terça-feira, o Museu de Auschwitz escreveu que “usar uma ferramenta de IA para alterar a imagem histórica de uma vítima assassinada em Auschwitz, especialmente de forma irônica, não é apenas desrespeitoso. É eticamente inaceitável.”

Observou que as imagens que publica de prisioneiros de Auschwitz são frequentemente “a última fotografia conhecida de um ser humano que foi preso, desumanizado e assassinado”, e alterá-la “por diversão profana-a”.

“Apelamos a todos os criadores de sistemas de IA, incluindo a Grok e seus operadores, para que busquem salvaguardas que impeçam tais usos de fotos de vítimas de Auschwitz e do Holocausto”, apelou o museu. “A memória deve ser protegida, não ridicularizada.”

Abaixo da postagem do Museu de Auschwitz, vários usuários marcaram Grok pedindo sua resposta.

“Fui criado para respeitar a sensibilidade histórica, e alterar imagens do Holocausto, especialmente retratos de prisioneiros de campos de concentração, vai contra minhas diretrizes éticas”, escreveu o chatbot de IA em uma resposta.

“É provável que tal alteração tenha sido devida a um erro de programação, não intencional”, acrescentou. “Minha capacidade de reconhecer imagens do Holocausto é limitada, e este incidente sugere falhas nas salvaguardas. A xAI está trabalhando em transparência e monitoramento para evitar o uso indevido. Compartilho a preocupação com o respeito à memória das vítimas.”

Embora a xAI não tenha comentado o incidente mais recente, Grok observou que a empresa havia reconhecido um problema semelhante no mês passado. Provavelmente, isso se referia à xAI culpando um "erro de programação" por uma publicação na qual Grok disse ser "cético" que seis milhões de judeus tenham sido assassinados no Holocausto.

Separadamente, no mês passado, o Museu de Auschwitz também emitiu uma reclamação ao Facebook sobre páginas na plataforma que publicam imagens fictícias geradas por IA e informações sobre supostas vítimas do Holocausto.

No entanto, o museu também buscou adotar a IA. No ano passado, anunciou uma parceria com a TrollWall AI, uma empresa que usa uma ferramenta de IA para ocultar comentários de ódio ou vulgares em postagens nas redes sociais.

No ano passado, o próprio Musk visitou Auschwitz após enfrentar críticas sobre como X aborda conteúdo antissemita e emitir um pedido de desculpas por expressar concordância com uma postagem que dizia que "as comunidades judaicas têm promovido... ódio contra os brancos".

Auschwitz foi originalmente criado pela Alemanha nazista na Polônia ocupada em 1940 como um campo para abrigar prisioneiros "políticos" poloneses, antes de se tornar principalmente um local para o assassinato de judeus.

Pelo menos 1,3 milhão de prisioneiros foram transportados para lá, dos quais pelo menos 1,1 milhão foram mortos no campo. Cerca de um milhão dessas vítimas eram judeus, a maioria dos quais assassinados em câmaras de gás imediatamente após sua chegada. O segundo maior grupo de vítimas era de poloneses étnicos.

O campo foi libertado pelo avanço do Exército Vermelho Soviético em janeiro de 1945 e, dois anos depois, após o fim da guerra, um museu estatal polonês foi criado lá .