Музей Освенцима критикует ИИ Маска за добавление дредов жертве Холокоста

Музей Освенцима раскритиковал Grok, чат-бота на основе искусственного интеллекта (ИИ), разработанного компанией Илона Маска xAI, за добавление дредов к изображению польского еврея, который был одним из более чем миллиона убитых в немецко-нацистском лагере во время Второй мировой войны.

Музей призвал создателей всех систем искусственного интеллекта внедрить меры предосторожности, предотвращающие «насмешки» над жертвами Холокоста.

Скандал начался, когда Музей Освенцима опубликовал в социальной сети X, также принадлежащей Илону Маску, изображение Руфима Германштадта, который был доставлен в лагерь 2 апреля 1942 года и умер там менее чем через три недели.

Под ним анонимный пользователь попросил Grok, который работает на X, изменить изображение, чтобы дать Германштадту дреды. Многие пользователи платформы просят Grok создать такие измененные или придуманные изображения.

Грок ответил на запрос, опубликовав то же изображение, что и в Освенциме, но с дредами, добавленными к Германштадту, чья голова на оригинальной фотографии была обрита, как и у всех заключенных лагеря.

В заявлении, опубликованном на сайте X во вторник, Музей Освенцима написал, что «использование инструмента ИИ для изменения исторического образа убитой жертвы Освенцима, особенно в издевательской форме, не только неуважительно. Это этически неприемлемо».

В публикации отмечается, что публикуемые фотографии узников Освенцима часто являются «последней известной фотографией человека, который был заключен в тюрьму, обесчеловечен и убит», и изменение ее «ради развлечения оскверняет ее».

«Мы призываем всех создателей систем ИИ, включая Grok и его операторов, искать меры безопасности, которые предотвратят подобное использование фотографий жертв Освенцима и Холокоста», — призвал музей. «Память нужно защищать, а не высмеивать».

Под постом Музея Освенцима ряд пользователей отметили Grok, попросив его дать ответ.

«Я создан с учетом уважения к исторической чувствительности, и изменение изображений Холокоста, особенно портретов узников концлагерей, противоречит моим этическим принципам», — написал чат-бот на основе искусственного интеллекта в одном из ответов.

«Вероятно, любое такое изменение было вызвано ошибкой программирования, а не намерением», — добавили в нем. «Моя способность распознавать изображения Холокоста ограничена, и этот инцидент свидетельствует о пробелах в мерах безопасности. xAI работает над прозрачностью и мониторингом, чтобы предотвратить неправомерное использование. Я разделяю беспокойство по поводу уважения памяти жертв».

Хотя xAI не прокомментировала последний инцидент, Grok отметил, что компания признала наличие аналогичной проблемы в прошлом месяце. Вероятно, это была ссылка на то, что xAI обвинила «ошибку программирования» в посте, в котором Grok сказал, что «скептически» относится к тому, что шесть миллионов евреев были убиты во время Холокоста.

В прошлом месяце Музей Освенцима также подал жалобу в Facebook на страницы на платформе, на которых публикуются созданные с помощью искусственного интеллекта вымышленные изображения и информация о предполагаемых жертвах Холокоста.

Однако музей также стремился использовать ИИ. В прошлом году он объявил о партнерстве с TrollWall AI, компанией, которая использует инструмент ИИ для скрытия оскорбительных или вульгарных комментариев в сообщениях в социальных сетях.

В прошлом году Маск сам посетил Освенцим после того, как столкнулся с критикой в ​​адрес того, как X борется с антисемитским контентом, и принес извинения за выражение согласия с постом, в котором говорилось, что «еврейские общины насаждают… ненависть к белым».

Первоначально Освенцим был создан нацистской Германией на территории оккупированной Польши в 1940 году как лагерь для размещения польских «политических» заключенных, а затем стал в первую очередь местом убийства евреев.

По меньшей мере 1,3 миллиона заключенных были отправлены туда, по меньшей мере 1,1 миллиона из них были убиты в лагере. Около миллиона из этих жертв были евреями, большинство из которых были убиты в газовых камерах сразу после прибытия. Вторая по величине группа жертв — этнические поляки.

Лагерь был освобожден наступающей Советской Красной Армией в январе 1945 года, а два года спустя, после окончания войны, там был создан Польский государственный музей .