Проверка возраста набирает обороты в игровой индустрии. Готова ли она к эпохе ИИ-подделок?

В июле Сиян, пользователь Discord из Великобритании, зашёл в Discord однажды утром и обнаружил, что не может получить доступ к некоторым текстовым чатам с пометкой «NSFW». Всплывающее окно сообщило ему, что канал теперь ограничен по возрасту. В Великобритании были приняты далеко идущие законы о безопасности детей , включающие систему возрастных ограничений для подтверждения того, что пользователям уже исполнилось 18 лет. Обновления Discord требовали от пользователей подтверждения возраста, используя удостоверение личности государственного образца или сканирование лица.

Сиян (попросивший, чтобы к нему обращались только по его имени в целях конфиденциальности) описывает себя как «ужасно старше, чем нужда подделывать удостоверение личности». Он не хотел фотографировать своё удостоверение личности. Он говорит, что функция сканирования лица ещё не была доступна на мобильных устройствах, а веб-камеры у него не было, поэтому он решил предоставить платформе чьё-то чужое лицо. Сначала он попробовал использовать эмодзи «старика», которое часто использует в Discord. («Это мне нравится».) Однако для сканирования лица часто требуется несколько снимков, на которых пользователи смотрят определённым образом или находятся в определённых позах. Сияну нужно было приемлемое изображение мужчины с открытым ртом.

Две игры в его библиотеке, Stellar Blade и Death Stranding , включают фоторежим, который позволяет игрокам позировать персонажу и задавать его выражение; Сиян выбрал Сэма из Death Stranding , прототипом которого послужил 56-летний актер Норман Ридус.

Он выложил скриншоты своего успеха в Discord, после чего его друг опубликовал их в X. Гамбит Сияна быстро стал вирусным, вдохновив других попробовать себя в таких играх, как Death Stranding , God of War и других.

Проверка возраста теперь является нормой в Великобритании, хотя ожидается, что аналогичные законы по всему миру окажут глубокое влияние на то, как мы получаем доступ к сети. Такие компании, как Google, внедряют системы оценки возраста на основе ИИ для поиска и YouTube. На игровых платформах, таких как Roblox, проверка возраста становится ключевым элементом мер безопасности. Но будь то с помощью удостоверений личности или сканирования лица, эта система несовершенна. Несколько пользователей Discord рассказали WIRED, что им уже удалось обойти сканирование лиц с помощью персонажей видеоигр. Генеративный ИИ может еще больше усложнить контроль над этой проблемой по мере того, как технологии становятся все более сложными; только в прошлом месяце WIRED писал о стартапе, работающем над ИИ, который может создавать видео в режиме реального времени . Пользователи также беспокоятся о предоставлении компаниям своей личной информации в случае нарушений безопасности.

Теоретически, проверка возраста служит для повышения безопасности детей. На таких платформах, как Roblox, где некорректная модерация позволила мошенникам обмануть или даже напасть на некоторых детей, подтверждение того, что пользователь несовершеннолетний (или старше 18 лет), — один из способов определить, какие функции ему доступны. На сайтах с контентом для взрослых, таких как Pornhub , проверка возраста направлена на то, чтобы дети не могли получить доступ к порнографии. Однако критики утверждают, что внедряемые системы несовершенны как с точки зрения конфиденциальности, так и с точки зрения защиты.

Дэвид Маймон, руководитель отдела анализа мошенничества SentiLink и профессор криминологии в Университете штата Джорджия, утверждает, что существующие методы верификации всё ещё можно обмануть. Люди используют множество способов обойти «проверку на живость» — меры безопасности, используемые для подтверждения личности пользователя, — будь то использование искусственного интеллекта, видеоигр или видеороликов с другими реальными людьми. Удостоверения личности можно подделать или купить. «Процесс проверки возраста сложен», — говорит он, и ответственным за эти системы следует уделить этому больше внимания.

Эш, 20-летний британец, попросивший не называть его фамилию, рассказал WIRED, что ему удалось пройти верификацию, используя фоторежим God of War с главным героем Кратосом . «Я не ожидал, что верификация сработает из-за белой кожи и бороды Кратоса, но всё получилось с первой попытки», — говорит он. Другой пользователь Discord из Великобритании, известный в сети как Antsy, говорит, что добился тех же результатов с Arma 3 и модом, позволяющим менять позы персонажей. «Я понял, что смогу, просто попробовав, как и всем людям», — рассказал он WIRED. «Персонажи Arma 3 выглядят очень плохо, далеко не реалистично, поэтому я подумал, что это будет хорошим экспериментом, чтобы укрепить или оспорить мои взгляды на эту технологию». Antsy говорит, что он и его друзья считают подобные технологии «вызовом», который они пытаются обойти. «Я очень за безопасность в интернете», — говорит он. «Однако я считаю, что интернет не должен быть обязанностью воспитывать и защищать своих юных пользователей».

Персонажи из нескольких игр работали. В видео от YouTube-блогера beebreadtech он смог быстро получить возрастной рейтинг для взрослых, повторив шаги Сияна в Death Stranding . Другие пользователи Discord, с которыми поговорил WIRED, рассказали, что им удалось сделать это с такими играми, как Days Gone , Baldur's Gate 3, Cyberpunk 2077, The Sims 4 , Cyberpunk 2077, Days Gone , Warhammer 40,000: Space Marine 2 , Star Wars: Knights of the Old Republic и Gray Zone Warfare . Некоторые говорят, что им даже удалось успешно использовать Garry's Mod , игру с фарсовой физикой и моделями персонажей, напоминающими что-то из горячечного сна.

Discord пока не отреагировал на просьбу WIRED прокомментировать ситуацию.

Маймон говорит, что существует слишком много возможных лазеек в системе проверки возраста, через которые люди могут ускользнуть. «Отрасль пытается найти решения проблемы дипфейков с использованием ИИ и живого ИИ», — говорит он. Это может означать необходимость полагаться на совокупность факторов, учитывающих связанную с человеком информацию, такую как номера телефонов, адреса и многое другое. «Нужно больше полагаться на исторические свидетельства о существовании человека», — говорит Маймон, — «и меньше обращать внимание на контрольные точки, такие как водительские права, фотографии, тесты на «живость» и так далее».

Маймон утверждает, что злоумышленники умело обходят подобные технологии. «Преступники всегда опережают нас на 7–12 месяцев в плане обнаружения уязвимостей и обхода некоторых существующих технологий», — говорит он. Даже без генеративного ИИ люди всё равно могут продавать видеозаписи своих лиц, чтобы пройти проверку возраста.

Даже удостоверения личности с фотографией не являются абсолютной гарантией. «Качество [поддельных] водительских прав — оно просто безупречное», — говорит Маймон. Все водяные знаки, ультрафиолетовое излучение, вся защита, даже правильный пластик, на котором печатаются водительские права, — даже к нему теперь имеют доступ преступники».

Что касается легитимности удостоверений личности, существует проблема с несовершеннолетними и тем, кто их владеет. WIRED ранее спрашивал директора по безопасности Roblox Мэтта Кауфмана о 13-летних подростках (минимальный возраст для доступа к некоторым функциям Roblox), у которых может не быть выданных государством удостоверений личности. «Это проблема», — сказал тогда Кауфман WIRED, добавив, что в Северной Америке и США такие юные подростки редко имеют такие удостоверения.

«Я не решаюсь утверждать, что [удостоверение личности с фотографией] является полезным способом проверки возраста людей», — говорит Маймон, — «просто потому, что у нас есть слишком много доказательств, указывающих на то, что это не работает».

Пользователи также не спешат предоставлять свои удостоверения личности. «Я не доверяю сторонним сервисам, которые работают с моими данными, особенно учитывая, насколько разрушительными могут быть утечки данных», — говорит Эш. «Большинство приложений для проверки утверждают, что не хранят данные дольше семи дней, и хотя это может быть правдой, я не могу быть уверен, что они говорят правду».

Передача конфиденциальной информации компаниям, запрашивающим фото или подтверждение личности, сопряжена с риском. В июле Tea — приложение, где женщины могут делиться своим негативным опытом с мужчинами, — столкнулось с масштабной утечкой данных , в результате которой были раскрыты тысячи фотографий женщин, использованных для проверки. Вторая уязвимость безопасности, по данным 404 Media, позволила хакерам получить доступ к конфиденциальной информации, такой как номера телефонов, аккаунты в социальных сетях и настоящие имена, через сообщения пользователей. Эта информация распространялась на форумах, таких как 4chan, для раскрытия информации и преследования женщин.

Люди, с которыми общался WIRED и которые использовали видеоигры для обмана системы проверки возраста, выступают против. «Требование от людей раскрывать информацию о лице для доступа ко всем функциям веб-сайтов и приложений, таких как Discord и Bluesky, — это серьёзное превышение полномочий, которые правительства должны иметь в цифровой сфере», — говорит Эш.

Более того, он сомневается, что такие системы не будут использоваться для взлома, будь то видеоигры или какой-либо другой метод. «Я не думаю, что сканирование лица — эффективный способ подтверждения возраста, поскольку люди легко могут выглядеть моложе своих лет и быть ошибочно помечены как не достигшие 18 лет», — говорит он.

Antsy, пользователь Discord, прошедший верификацию в Arma 3, не убеждён, что веб-сайты или платформы должны отвечать за проверку возраста. «Вводя эти законы, вы лишь подталкиваете молодёжь к тем уголкам интернета, которые правительство не может контролировать», — говорит он. «Если кто-то считает, что это защищает детей лучше, чем уже сделали бы активные родители, я отказываюсь верить, что он хорошо разбирается в интернет-ресурсах, выходящих за рамки главной страницы Google или жизни своего ребёнка».