Deepfakes: Die Bedrohung durch Ultrafakes und Desinformation

Im digitalen Zeitalter, in dem Information Macht bedeutet, droht eine neue Technologie die Grundlagen der Realität zu untergraben: Deepfakes. Diese hyperrealistischen Montagen, die mithilfe künstlicher Intelligenz (KI) erstellt werden, stellen eine existenzielle Bedrohung für das öffentliche Vertrauen dar. Ihre größte Gefahr besteht nicht nur darin, Menschen mit falschen Inhalten in die Irre zu führen, sondern den Glauben an die Wahrhaftigkeit jeglicher Inhalte zu zerstören – ein zerstörerisches Phänomen, das als „Lügnerdividende“ bekannt ist. Mit ihrer zunehmenden Verfügbarkeit wird diese Technologie zu einem demokratischen Instrument für Betrug, Schikanen und politische Destabilisierung, mit besonders großen Risiken für die Demokratien Lateinamerikas.

Was sind Deepfakes und wie funktionieren sie?

Der Begriff „Deepfake“ bezeichnet Video-, Bild- oder Audiodateien, die von künstlicher Intelligenz manipuliert oder synthetisch generiert werden, um authentisch und echt zu wirken. Die Technologie basiert auf einer Art Deep Learning, das generative kontradiktorische Netzwerke (GANs) nutzt. Dabei konkurrieren zwei KI-Netzwerke miteinander: Ein „Generator“ erstellt den gefälschten Inhalt (z. B. indem er das Gesicht eines Politikers auf den Körper einer anderen Person legt), und ein „Diskriminator“ versucht, die Fälschung zu erkennen. Dieser Wettbewerbsprozess ermöglicht es der KI, exponentiell zu lernen und sich zu verbessern, wodurch immer überzeugendere Fälschungen entstehen.

Von Finanzbetrug bis hin zu politischer Desinformation

Während die Technologie in Film und Kunst für harmlose Zwecke eingesetzt werden kann, ist ihr Potenzial für böswillige Zwecke enorm und wird bereits erkannt:

* Betrug und Erpressung: Kriminelle nutzen Deepfakes, um sich als Einzelpersonen auszugeben. In einem berüchtigten Fall in Hongkong wurde ein Finanzmitarbeiter dazu verleitet, 25 Millionen Dollar zu überweisen, nachdem alle Teilnehmer, einschließlich des Finanzvorstands seines Unternehmens, an einer Videokonferenz teilgenommen hatten. Im privaten Bereich wird die Technologie genutzt, um unfreiwillige Pornografie mit den Gesichtern der Opfer zu erstellen, um sie zu belästigen oder zu erpressen. Eine Studie ergab, dass 96 % der online entdeckten Deepfake-Videos pornografischer Natur waren.

Desinformation und politische Manipulation: Deepfakes sind die perfekte Waffe für Desinformation. Videos von politischen Führern, die Dinge sagen oder tun, die nie passiert sind, können erstellt werden, um die öffentliche Meinung zu manipulieren, Wahlen zu beeinflussen oder Gewalt anzustiften. Während des Krieges in der Ukraine tauchte ein gefälschtes Video auf, in dem Präsident Selenskyj seine Truppen zur Kapitulation aufforderte.

* Vertrauensverlust: Allein die Existenz dieser Technologie untergräbt das Vertrauen in Institutionen, die Medien und Beweise selbst. Eine experimentelle Studie zeigte, dass die Konfrontation mit einem Deepfake über den Einsturz einer Brücke das Misstrauen der amerikanischen Teilnehmer gegenüber der Regierung verstärkte.

Die Dividende des Lügners: An allem zweifeln

Die verheerendste Wirkung von Deepfakes besteht nicht darin, dass wir das Falsche glauben, sondern dass wir an der Wahrheit zweifeln. Das ist die „Lügnerdividende“: Technologie ermöglicht es jeder Person des öffentlichen Lebens, glaubhaft zu leugnen, dass tatsächliche Beweise gegen sie vorliegen. Taucht ein authentisches Video auf, das einen Politiker belastet, kann dieser einfach behaupten, es handele sich um ein „Deepfake“. Diese Behauptung, selbst eine Lüge, sät so viele Zweifel, dass die Beweise ihre Aussagekraft verlieren. Die Diskussion verlagert sich vom eigentlichen Verstoß zu einer endlosen Debatte über die Authentizität des Videos und zerstört damit das Konzept der gemeinsamen Realität, das für demokratische Rechenschaftspflicht von grundlegender Bedeutung ist.

Die Demokratisierung des Chaos und das Risiko für Lateinamerika

Während sich die Schlagzeilen auf Deepfakes von Staatsoberhäuptern konzentrieren, liegt die wahre Gefahr auf lokaler und persönlicher Ebene. Die Technologie wird immer günstiger und benutzerfreundlicher und damit für jeden zugänglich, der böse Absichten hegt. In den oft stark polarisierten Social-Media-Ökosystemen Lateinamerikas, in denen das Vertrauen in traditionelle Medien abnimmt, ist diese „Demokratisierung des Chaos“ besonders gefährlich. Ein Deepfake-Video kann dazu verwendet werden, den Ruf eines Kommunalkandidaten zu zerstören, Beweise gegen einen sozialen Aktivisten zu fälschen oder Hass gegen eine Minderheit zu schüren und so irreparablen Schaden anzurichten, lange bevor es entlarvt werden kann.

Um uns zu schützen, empfehlen Experten eine Kombination aus Aufklärung, die kritisches Denken fördert, der Entwicklung technologischer Erkennungsinstrumente und Vorschriften, die Transparenz und Rechenschaftspflicht fordern. Wachsamkeit, detaillierte Informationsanalyse, Quellenvergleich und gesunder Menschenverstand sind unerlässlich. Die Demokratie im digitalen Zeitalter kann sich nicht selbst verteidigen; sie braucht eine aktive, kritische Bürgerschaft, die sich der neuen Formen der Lüge bewusst ist.