Инфлюенсер с глубоким фейком и искусственным интеллектом украл мои свадебные фотографии

Как создатель контента на полную ставку, Келли Страник ( @kellygracemae ) знает, что один из рисков, связанных с публикацией своей жизни в сети, заключается в том, что иногда другие люди пытаются украсть ваши фотографии. Она не осознавала, что иногда эти люди — вовсе не настоящие люди. Ниже инфлюенсер из Бруклина делится своими словами о том, что произошло, когда она обнаружила, что аккаунт Instagram, созданный с помощью искусственного интеллекта, пытался выдать ее свадьбу за свою собственную.

В марте 2019 года я переехала в Сан-Франциско на работу в сфере технологий и жила с тремя парнями, которые сказали мне, что мне нужно попасть на Hinge. «Вот так люди знакомятся», — сказали они. «Так теперь устроен мир». Я сказала им, хорошо, я сделаю это, и познакомилась с этим парнем Энди, и пошла на свидание. Мне недавно исполнилось 24, и я не планировала встречаться со своим мужем, но одно за другим, и вот как все получилось. Май 2019 года: мое первое и единственное свидание на Hinge.

В 2022 году я думала, что мы обручимся, но я решила, что это будет летом. Когда Энди сделал мне предложение 4 марта 2022 года, он застал меня врасплох; на мне были леггинсы и никакого макияжа, хотя, к счастью, у меня были уложены волосы. Я не из тех девушек, которые росли, думая о своей свадьбе. Я даже не думала, что выйду замуж. Я из разведенной семьи, и у меня было много травм от прошлых отношений, поэтому я не особо задумывалась о свадьбе в один прекрасный день. Поэтому, когда мы обручились, мы наняли свадебного организатора полного цикла, Веронику Джой Ивентс , которая также является другом семьи. Я дала ей доску идей на Pinterest и сказала: «Я хочу красочные цветы и диско-шары. Я хочу, чтобы это было похоже на тусовку», и позволила ей действовать дальше.

Я начала делать TikTok весной 2022 года, через несколько месяцев после нашей помолвки. Это было просто ради развлечения — у меня не было настоящей аудитории до начала 2023 года — и мне стало комфортнее быть более личной в сети, в том числе рассказывать о том, что происходит в моей жизни, которая в то время была планированием свадьбы. Я рассказывала о свадебном процессе и о решениях, которые мы принимали, которые казались нам подлинными, например, не устраивать первый танец или девичник. Но я бы не сказала, что мой контент был посвящен свадьбе или чему-то в этом роде.

Когда дело дошло до нашего фактического дня свадьбы, я была одной из тех, кто думала: «У меня нет никаких ожиданий, что это будет лучший день в моей жизни» . Моим приоритетом было спокойствие, присутствие духа, наслаждение днем ​​и отсутствие стресса. У меня было время побыть одной утром; со мной не было большой группы людей, которые бы готовились вместе со мной. Я хотела, чтобы все было очень спокойно. Но поскольку у меня не было таких ожиданий, это на самом деле оказался лучший день в моей жизни. Я смогла насладиться всем от начала до конца, потому что я поставила себе эти цели. Я плыла. Если бы я могла быть лучшей версией себя, как в тот день, каждый день, я была бы неудержима.

Я определенно был рад рассказать о свадьбе после ее проведения — дать точку зрения и советы, — но я был шокирован тем, как много люди хотели знать. Я рассказал о наших поставщиках и много говорил о том, как я настроился на нашу свадьбу, — хотя больше всего внимания привлек тот факт, что мы улизнули со свадьбы и отправились в Brooklyn Mirage на нашу after-party.

Недавно я получила сообщение в Instagram от одной из моих подписчиц. Она написала: «Эй, я просто прокручивала и увидела это видео. Это твое свадебное фото». В видео была фотография моей свадьбы, моего мужа, Энди, всего — но это было не мое лицо. Другая влиятельная персона заменила мое лицо своим и рассказывала о мелочах, которые она делала на своей свадьбе. Ничто из этого даже отдаленно не было связано со мной, кроме того факта, что она использовала мое фото в качестве вступления к своему видео. Моя первая реакция была: «Какого черта? Кто этот человек, который берет мое свадебное фото, помещает на него свое лицо и делает об этом контент?»

Я даже не осознал, что это может быть ИИ. Очевидно, люди используют ИИ для фотошопа, но я не осознавал, что человек на видео — ИИ, пока не опубликовал пост об этом испытании. Затем я начал получать много сообщений от людей, которые говорили: «Это дипфейк. Это даже не настоящий человек».

Скриншот из рассматриваемого видео.

Я никогда не делилась этой частью в сети, но нечто похожее произошло со мной чуть меньше чем через шесть месяцев после нашей свадьбы. Один из моих подписчиков сообщил мне, что девушка на RedNote сделала точно такую ​​же фотографию и мастерски прифотошопила свое лицо на мое тело. Поэтому я даже не поняла, что этот новый человек не настоящий, пока люди не написали мне, что аккаунт — deepfake. Я до сих пор не знаю, полностью ли это сгенерированный ИИ человек или они используют чей-то голос и сходство для создания этих видео. Я также не осознавала до недавнего времени, что вся цель аккаунта deepfake, у которого более 60 000 подписчиков, — продавать и продвигать приложение, которое генерирует фотографии, выглядящие так, как будто они сделаны одноразовой камерой.

Эта ситуация определенно вызвала у меня много мыслей. Поскольку я на самом деле не в видео, я чувствую себя менее связанным, но я видел людей, таких как Ариэль Лорре, создательница контента и подкастер, чье лицо и голос использовались компанией для создания сгенерированной искусственным интеллектом платной рекламы, где она «говорила» о своем продукте. Если бы это был я, я бы так разгорячился. Я бы чувствовал себя таким смущенным, напуганным и взбешенным. Я бы попытался предпринять юридические действия.

В моем случае я не уверен, что я чувствую по поводу того, что это полностью фальшивый, созданный ИИ человек. Я думаю, что это менее вредно, но некоторые люди также не знают, настоящий он или нет. И это вредно для создателей контента, которым приходится делиться вещами в Интернете, и которые затем подвергают себя риску того, что кто-то манипулирует этим аудио или видео и использует его для продвижения продуктов, о которых они никогда не говорили. Мне также противно, что моя мама иногда прокручивает Instagram Reels, и многие наши родители и наши бабушки и дедушки не всегда могут отличить подлинное человеческое свидетельство от того, что создано ИИ. Это играет на уязвимости людей, которые не способны заметить разницу. В общем, нам просто нужно осознавать контент, который мы потребляем, и действительно смотреть на вещи через призму: «Это реально или нет?»

Единственное, что этот опыт действительно подтвердил для меня, это то, что когда я привожу детей в этот мир, я хочу приложить активные усилия, чтобы не делиться ими в сети или каким-либо образом не подвергать риску их безопасность. Любой, кто выкладывает что-либо в интернет, подвергается риску — неважно, являетесь ли вы влиятельным лицом с подписчиками или просто тем, у кого есть видео с ними где-то в сети.

Честно говоря, для меня это просто смешная история. Странно, что это не настоящий человек. Я даже не знал, что существуют инфлюенсеры на основе искусственного интеллекта, но думаю, что они станут более распространенными, потому что бренду не нужно платить фальшивому инфлюенсеру. Серьёзно, я просто не могу поверить, что они оставили Энди в видео, а меня нет. Это так грубо.

Это интервью было отредактировано и сокращено для ясности.

Мэдисон Феллер

Заместитель цифрового редактора

Мэдисон — заместитель цифрового редактора на ELLE.com, где она также освещает новости, политику и культуру. Если она не в сети, то, вероятно, дремлет или пытается не упасть во время скалолазания.