Дипфейки: Угроза ультрафейков и дезинформации

В цифровую эпоху, когда информация — это сила, новая технология грозит подорвать саму основу реальности: дипфейки. Эти гиперреалистичные монтажи, созданные с помощью искусственного интеллекта (ИИ), представляют собой экзистенциальную угрозу общественному доверию. Их самая большая опасность — не просто введение людей в заблуждение ложным контентом, а разрушение веры в правдивость любого контента, разрушительное явление, известное как «дивиденды лжеца». С ростом доступности эта технология становится демократизированным инструментом мошенничества, преследования и политической дестабилизации, с особенно острыми рисками для демократий Латинской Америки.

Что такое дипфейки и как они работают?

Термин «дипфейк» относится к видео, изображениям или аудиофайлам, которые были обработаны или синтетически сгенерированы ИИ, чтобы казаться подлинными и реальными. Технология основана на типе глубокого обучения, который использует генеративные состязательные сети (GAN). В этой системе две сети ИИ конкурируют друг с другом: «генератор» создает фейковый контент (например, накладывая лицо политика на тело другого человека), а «дискриминатор» пытается обнаружить фейк. Этот конкурентный процесс позволяет ИИ учиться и совершенствоваться экспоненциально, производя все более убедительные фейки.

От финансового мошенничества до политической дезинформации

Хотя эта технология находит безвредное применение в кино и искусстве, ее потенциал для вредоносного использования огромен и уже реализуется:

* Мошенничество и вымогательство: преступники используют deepfakes, чтобы выдавать себя за других людей. В одном нашумевшем случае в Гонконге финансового сотрудника обманом заставили перевести 25 миллионов долларов после видеоконференции, все участники которой, включая финансового директора его компании, были deepfakes. На личном уровне технология используется для создания несогласованной порнографии с лицами жертв в целях преследования или вымогательства. Одно исследование показало, что 96% deepfake-видео, обнаруженных в сети, имели порнографический характер.

* Дезинформация и политическая манипуляция: Deepfakes — идеальное оружие для дезинформации. Видеоролики политических лидеров, говорящих или делающих то, чего никогда не было, могут быть созданы для манипулирования общественным мнением, влияния на выборы или подстрекательства к насилию. Во время войны в Украине всплыло фейковое видео президента Зеленского, призывающего свои войска сдаться.

* Подрыв доверия: само существование этой технологии подрывает доверие к институтам, СМИ и самим доказательствам. Экспериментальное исследование показало, что воздействие deepfake о крушении моста усилило недоверие к правительству среди американских участников.

Дивиденды лжеца: сомневайтесь во всем

Самое губительное воздействие дипфейков заключается не в том, что мы верим в ложь, а в том, что мы начинаем сомневаться в правде. Это «дивиденды лжеца»: технология дает любому публичному деятелю правдоподобное отрицание любых реальных доказательств против него. Если всплывает подлинное видео, инкриминирующее политика, они могут просто заявить, что это «дипфейк». Это утверждение, даже ложь, вносит достаточно сомнений, чтобы доказательства потеряли свою силу. Разговор переходит от фактического нарушения к бесконечным дебатам о подлинности видео, разрушая концепцию общей реальности, которая является основополагающей для демократической подотчетности.

Демократизация хаоса и риск для Латинской Америки

В то время как заголовки фокусируются на deepfakes мировых лидеров, реальное распространение опасности происходит на локальном и личном уровне. Технология становится дешевой и простой в использовании, что дает ее в руки любому человеку со злым умыслом. В экосистемах социальных сетей Латинской Америки, часто сильно поляризованных и с меньшим доверием к традиционным СМИ, эта «демократизация хаоса» особенно опасна. Видео deepfake может быть использовано для уничтожения репутации муниципального кандидата, фабрикации доказательств против общественного активиста или разжигания ненависти к группе меньшинства, нанося непоправимый ущерб задолго до того, как его можно будет разоблачить.

Чтобы защитить себя, эксперты рекомендуют сочетание образования для развития критического мышления, разработки технологических средств обнаружения и правил, требующих прозрачности и подотчетности. Важно быть бдительным, подробно анализировать информацию, сравнивать источники и применять здравый смысл. Демократия в цифровую эпоху не может защитить себя; она требует активного, критического гражданства, которое осознает новые формы, которые принимает ложь.