Meta подает иск против создателя технологии приложения «nudify»

Компания Meta заявила в четверг, что подала в суд на разработчика приложения, который использует искусственный интеллект для имитации обнаженных изображений реальных людей, которые на фотографиях появляются одетыми.

Компания Meta заявила, что подала иск в Гонконге против компании Joy Timeline HK Limited, стоящей за приложением CrushAI, чтобы запретить ей рекламировать приложения CrushAI на платформах Meta.

«Этот судебный иск подчеркивает как серьезность, с которой мы относимся к этому злоупотреблению, так и нашу приверженность сделать все возможное, чтобы защитить наше сообщество от него», — говорится в заявлении Меты. «Мы продолжим предпринимать необходимые шаги — которые могут включать судебные иски — против тех, кто злоупотребляет нашими платформами подобным образом».

По словам представителей Meta, судебный иск был подан после того, как Joy Timeline предприняла «несколько попыток» обойти процесс проверки рекламы Meta.

Реклама так называемых приложений nudify появилась на платформах Meta Facebook и Instagram, несмотря на нарушение рекламной политики этих социальных сетей. CrushAI, создатель приложений, продвигал инструменты ИИ, которые, по его словам, позволяют пользователям загружать фотографии и «видеть кого угодно голым», как показало расследование CBS News .

Meta заявила, что компания запрещает «несогласованные интимные изображения» на своих платформах. Ранее компания сообщила CBS News, что удалила рекламу технологии nudify, удалила страницы на своих платформах, на которых размещаются эти ролики, и навсегда заблокировала веб-сайты, связанные с приложениями.

Meta в четверг заявила, что будет делиться информацией, включая URL-адреса рекламы, о субъектах, которые нарушают ее политику, с другими технологическими компаниями через программу Lantern от Tech Coalition, которая отслеживает поведение, нарушающее их правила безопасности детей. По данным компании, с марта Meta предоставила программе информацию о более чем 3800 сайтах, которая была предоставлена ​​другим технологическим компаниям.

Meta заявила, что рекламодатели приложений nudify используют различные средства, чтобы избежать обнаружения на ее платформах, в том числе используя безобидные изображения, чтобы попытаться обойти технологию, используемую для идентификации такой рекламы на ее сайтах. В результате она разработала более совершенную технологию для обнаружения рекламы приложений nudify, которая представляется как безобидная, заявила Meta в четверг.

«Мы работали с внешними экспертами и нашими собственными группами специалистов, чтобы расширить список терминов, фраз и эмодзи, связанных с безопасностью, которые наши системы обучены обнаруживать в этих объявлениях», — сказал Мета.

Эммет Лайонс принял участие в подготовке этого отчета.