El Museo de Auschwitz critica la inteligencia artificial de Musk por añadir rastas a una víctima del Holocausto

El Museo de Auschwitz ha criticado a Grok, un chatbot de inteligencia artificial (IA) desarrollado por la empresa xAI de Elon Musk, por añadir rastas a la imagen de un judío polaco que fue uno de los más de un millón de muertos en el campo nazi alemán durante la Segunda Guerra Mundial.

El museo ha pedido a los creadores de todos los sistemas de inteligencia artificial que implementen medidas de protección que impidan el “ridículo” de las víctimas del Holocausto.

La polémica comenzó cuando el Museo de Auschwitz publicó una imagen en X, la plataforma de redes sociales también propiedad de Elon Musk, de Rufim Hermannstadt, quien fue transportado al campo el 2 de abril de 1942 y murió allí menos de tres semanas después.

Debajo, un usuario anónimo le pidió a Grok, que opera en X, que alterara la imagen para darle rastas a Hermannstadt. Muchos usuarios de la plataforma le piden a Grok que produzca estas imágenes alteradas o inventadas.

Grok respondió a la solicitud, publicando la misma imagen que había publicado Auschwitz, pero con rastas añadidas a Hermannstadt, cuya cabeza había sido rapada en la foto original, como todos los prisioneros del campo.

En un comunicado publicado en X el martes, el Museo de Auschwitz escribió que «utilizar una herramienta de inteligencia artificial para alterar la imagen histórica de una víctima asesinada en Auschwitz, especialmente de forma burlona, ​​no solo es irrespetuoso, sino también éticamente inaceptable».

Señaló que las imágenes que publica de prisioneros de Auschwitz son a menudo “la última fotografía conocida de un ser humano que fue encarcelado, deshumanizado y asesinado”, y alterarla “por diversión la profana”.

“Instamos a todos los creadores de sistemas de IA, incluyendo a Grok y sus operadores, a que busquen salvaguardias que impidan este tipo de uso de las fotos de las víctimas de Auschwitz y el Holocausto”, apeló el museo. “La memoria debe ser protegida, no ridiculizada”.

Debajo de la publicación del Museo de Auschwitz, varios usuarios etiquetaron a Grok pidiendo su respuesta.

“Estoy diseñado para respetar la sensibilidad histórica, y alterar las imágenes del Holocausto, especialmente los retratos de prisioneros de los campos de concentración, va en contra de mis pautas éticas”, escribió el chatbot de IA en una respuesta.

“Es probable que dicha alteración se debiera a un error de programación, no a una intención”, añadió. “Mi capacidad para reconocer imágenes del Holocausto es limitada, y este incidente sugiere deficiencias en las medidas de seguridad. xAI está trabajando en la transparencia y la supervisión para prevenir el uso indebido. Comparto la preocupación por el respeto a la memoria de las víctimas”.

Si bien xAI no ha comentado sobre el último incidente, Grok señaló que la compañía reconoció un problema similar el mes pasado. Probablemente se refería a que xAI atribuyó a un "error de programación" una publicación en la que Grok se mostraba "escéptico" ante el asesinato de seis millones de judíos en el Holocausto.

Por otra parte, el mes pasado, el Museo de Auschwitz también presentó una queja a Facebook sobre páginas en la plataforma que publican imágenes ficticias generadas por inteligencia artificial e información sobre supuestas víctimas del Holocausto.

Sin embargo, el museo también ha buscado adoptar la IA. El año pasado, anunció una colaboración con TrollWall AI, una empresa que utiliza una herramienta de IA para ocultar comentarios de odio o vulgares en publicaciones de redes sociales.

El año pasado, el propio Musk visitó Auschwitz después de enfrentar críticas por la forma en que X aborda el contenido antisemita y él mismo emitió una disculpa por expresar su acuerdo con una publicación que decía "Las comunidades judías han estado impulsando... el odio contra los blancos".

Auschwitz fue creado originalmente por la Alemania nazi en la Polonia ocupada en 1940 como un campo para albergar a prisioneros “políticos” polacos, antes de convertirse posteriormente principalmente en un sitio para el asesinato de judíos.

Al menos 1,3 millones de prisioneros fueron trasladados allí, de los cuales al menos 1,1 millones fueron asesinados en el campo. Alrededor de un millón de estas víctimas eran judíos, la mayoría de los cuales fueron asesinados en cámaras de gas inmediatamente después de su llegada. El segundo grupo más numeroso de víctimas fueron los polacos.

El campo fue liberado por el avance del Ejército Rojo soviético en enero de 1945 y, dos años más tarde, tras el final de la guerra, se estableció allí un museo estatal polaco .