Meta подает в суд на приложения Nudify на базе искусственного интеллекта

Вчера компания Meta объявила, что планирует подать в суд на Joy Timeline HK Limited , гонконгскую компанию, стоящую за Crush AI — приложением, которое использует генеративный искусственный интеллект для создания поддельных изображений настоящих обнаженных людей без их согласия.

С помощью сайта Crush AI можно фактически преобразовать фотографию реального одетого человека в синтетическое видео, которое изображает его голым или раздевающимся, выполняющим откровенные сексуальные действия или принимающим эротические позы. По данным Meta, наблюдается экспоненциальный рост этих приложений с обнаженкой, которые используют социальные каналы Facebook и Instagram для рекламы.

Согласно исследованию «Анализ экосистемы приложений для обнажения на основе ИИ» , опубликованному в ноябре 2024 года Университетом Флориды и Университетом Вашингтона, приложения для «обнажения» на основе ИИ представляют собой обширную, агрессивную и нерегулируемую коммерческую экосистему.

Анализ 20 легкодоступных онлайн-платформ показывает, что 95% из них предназначены для снятия одежды с женских фотографий, делая людей на изображении объектами сексуального контента всех видов. 45% сайтов позволяют генерировать имитацию сексуальных действий, таких как проникновение или практики БДСМ.

Услуги платные, средняя стоимость изображения составляет $0,31, и почти все платформы поощряют использование криптовалют, часто как единственного способа оплаты. Удаление аккаунта практически невозможно: только одна платформа из 20 позволяет это сделать. Авторы предупреждают, что эти инструменты представляют собой новую форму цифрового сексуального насилия, и призывают к срочному вмешательству регулирующих органов.