Ein Deepfake-KI-Influencer hat meine Hochzeitsfotos gestohlen

Als hauptberufliche Content-Erstellerin weiß Kelly Stranick ( @kellygracemae ), dass ein Risiko beim Teilen des eigenen Lebens im Internet darin besteht, dass gelegentlich andere versuchen, Fotos zu stehlen. Was ihr nicht bewusst war: Manchmal handelt es sich bei diesen Personen gar nicht um echte Menschen. Im Folgenden erzählt die Influencerin aus Brooklyn in ihren eigenen Worten, was passierte, als sie entdeckte, dass ein von künstlicher Intelligenz generierter Deepfake-Instagram-Account versuchte, ihre Hochzeit als seine eigene auszugeben.

Im März 2019 zog ich für einen Job im Technologiebereich nach San Francisco und lebte mit drei Jungs zusammen, die mir sagten, ich müsse unbedingt Hinge nutzen. „So lernt man sich eben kennen“, sagten sie. „So funktioniert die Welt heutzutage.“ Ich sagte ihnen, ok, ich mache es, fand ein Match mit Andy und wir verabredeten uns. Ich war gerade 24 und hatte nicht vor, meinen Mann kennenzulernen – aber eins kam zum anderen, und so kam es. Mai 2019: mein erstes und einziges Hinge-Date.

Ich dachte, wir würden uns 2022 verloben, aber ich dachte, es würde im Sommer sein. Als Andy mir am 4. März 2022 einen Heiratsantrag machte, war ich völlig unvorbereitet. Ich trug Leggings und kein Make-up, hatte aber zum Glück meine Haare geföhnt. Ich gehöre nicht zu den Mädchen, die schon als Kind an ihre Hochzeit denken. Ich dachte nicht einmal daran, dass ich heiraten würde. Ich komme aus einer geschiedenen Familie und hatte viele Traumata aus früheren Beziehungen, daher habe ich nicht groß daran gedacht, eines Tages zu heiraten. Als wir uns dann verlobten, engagierten wir eine Hochzeitsplanerin mit umfassendem Service, Veronica Joy Events , die auch eine Freundin der Familie ist. Ich gab ihr ein Pinterest-Board mit Ideen und sagte: „Ich möchte bunte Blumen und Discokugeln. Es soll sich richtig gut anfühlen“, und überließ ihr die Planung.

Ich hatte im Frühjahr 2022, ein paar Monate nach unserer Verlobung, angefangen, TikToks zu erstellen. Es war nur zum Spaß – ich hatte erst Anfang 2023 wirklich ein Publikum – und ich fühlte mich wohler, online persönlicher zu sein und auch über mein Leben zu sprechen, was damals die Hochzeitsplanung war. Ich erzählte vom Ablauf der Hochzeit und sprach über Entscheidungen, die wir getroffen hatten und die sich für uns authentisch anfühlten, wie zum Beispiel, dass wir keinen ersten Tanz oder keine Brautparty veranstalteten. Aber ich würde nicht sagen, dass meine Inhalte speziell auf Hochzeiten bezogen waren oder so.

Als unser Hochzeitstag dann endlich da war, war ich einer von denen, die dachten: „Ich erwarte nicht, dass es der schönste Tag meines Lebens wird .“ Mir ging es vor allem darum, ruhig und präsent zu sein, den Tag zu genießen und mich nicht vom Stress überwältigen zu lassen. Ich hatte am Morgen Zeit für mich; ich hatte keine große Gruppe von Leuten, die sich mit mir vorbereiteten. Ich wollte es ganz entspannt angehen lassen. Aber weil ich diese Erwartungen nicht hatte, wurde es tatsächlich der schönste Tag meines Lebens. Ich konnte alles von Anfang bis Ende genießen, weil ich mir das vorgenommen hatte. Ich schwebte. Wenn ich jeden Tag mein Bestes geben könnte, so wie an diesem Tag, wäre ich nicht mehr aufzuhalten.

Ich habe mich riesig gefreut, im Nachhinein von der Hochzeit zu erzählen – meine Perspektive und Ratschläge zu geben –, aber ich war überrascht, wie viel die Leute wissen wollten. Ich habe über unsere Lieferanten gesprochen und viel über meine Einstellung zu unserer Hochzeit geredet – am meisten Aufmerksamkeit erregte jedoch die Tatsache, dass wir die Hochzeit abgeblasen und zur After-Party ins Brooklyn Mirage gegangen sind.

Kürzlich bekam ich dann eine Instagram-Nachricht von einer meiner Followerinnen. Sie meinte: „Hey, ich habe gerade gescrollt und dieses Video gesehen. Das ist dein Hochzeitsfoto.“ In dem Video war ein Foto von meiner Hochzeit, meinem Mann, Andy, einfach alles – aber es war nicht mein Gesicht. Diese andere Influencerin hatte mein Gesicht durch ihres ersetzt und erzählte von Kleinigkeiten, die sie bei ihrer Hochzeit gemacht hatte. Nichts davon hatte auch nur im Entferntesten etwas mit mir zu tun, außer dass sie mein Foto als Intro für ihr Video verwendet hatte. Meine erste Reaktion war: Was zur Hölle? Wer ist das für eine Person, die mein Hochzeitsfoto macht, ihr Gesicht darauf setzt und Inhalte darüber erstellt?

Mir kam gar nicht in den Sinn, dass es sich um KI handeln könnte. Natürlich nutzen Leute KI für Photoshop, aber mir wurde erst klar, dass die Person im Video eine KI war, als ich über die Tortur berichtete. Dann bekam ich viele Nachrichten von Leuten, die meinten: „Das ist ein Deepfake. Das ist nicht mal eine echte Person.“

Ein Screenshot aus dem betreffenden Video.

Ich habe diesen Teil nie online geteilt, aber knapp sechs Monate nach unserer Hochzeit passierte mir etwas Ähnliches. Einer meiner Follower machte mich darauf aufmerksam, dass ein Mädchen auf RedNote genau dasselbe Foto gemacht und ihr Gesicht per Photoshop auf meinen Körper kopiert hatte. Mir war also gar nicht bewusst, dass diese neue Person nicht real war – bis mir Leute schrieben, dass der Account ein Deepfake sei. Ich weiß bis heute nicht, ob die Person vollständig künstlich generiert wurde oder ob sie die Stimme und das Aussehen einer Person für die Erstellung dieser Videos verwenden. Mir war auch erst vor Kurzem klar, dass die Absicht hinter dem Deepfake-Account mit über 60.000 Followern darin besteht, eine App zu verkaufen und zu bewerben, die Fotos so erstellt, als kämen sie von einer Einwegkamera.

Diese Situation hat mich definitiv zum Nachdenken gebracht. Da ich nicht selbst im Video zu sehen bin, fühle ich mich weniger verbunden, aber ich habe Leute wie Arielle Lorre gesehen, eine Content-Erstellerin und Podcasterin, deren Gesicht und Stimme von einem Unternehmen für eine KI-generierte bezahlte Anzeige verwendet wurden, in der sie über deren Produkt „sprach“. Wenn ich das wäre, wäre ich total wütend. Ich wäre so verwirrt, verängstigt und sauer. Ich würde versuchen, rechtliche Schritte einzuleiten.

In meinem Fall bin ich mir nicht sicher, wie ich es finde, dass es sich um eine komplett gefälschte, von KI generierte Person handelt. Ich finde das weniger schädlich, aber manche Leute wissen auch nicht, ob es echt ist oder nicht. Und es schadet den Content-Erstellern, die Dinge im Internet teilen müssen und sich dann dem Risiko aussetzen, dass jemand diese Audio- oder Videoaufnahmen manipuliert und für Produkte wirbt, über die sie nie gesprochen haben. Ich finde es auch eklig, dass meine Mutter manchmal durch Instagram Reels scrollt und viele unserer Eltern und Großeltern nicht immer zwischen authentischen menschlichen Aussagen und KI-generierten unterscheiden können. Das nutzt die Verletzlichkeit von Menschen aus, die den Unterschied nicht erkennen können. Generell müssen wir uns der Inhalte, die wir konsumieren, einfach bewusst sein und die Dinge wirklich durch die Brille betrachten: „Ist das echt oder nicht?“

Diese Erfahrung hat mir wirklich bestätigt: Wenn ich Kinder zur Welt bringe, möchte ich sie unbedingt nicht online teilen und ihre Sicherheit in keiner Weise gefährden. Jeder, der etwas ins Internet stellt, ist gefährdet – egal, ob man ein Influencer mit einer großen Fangemeinde ist oder einfach nur ein Video von sich online hat.

Ehrlich gesagt ist das alles für mich nur eine lustige Geschichte. Es ist bizarr, dass es keine echte Person ist. Ich wusste gar nicht, dass es KI-Influencer gibt, aber ich glaube, sie werden immer häufiger, weil eine Marke keinen Fake-Influencer bezahlen muss. Ich kann es einfach nicht glauben, dass Andy im Video mitgespielt hat und ich nicht. Das ist so unhöflich.

Dieses Interview wurde aus Gründen der Klarheit bearbeitet und gekürzt.

Madison Feller

Stellvertretender Digitalredakteur

Madison ist stellvertretende Digitalredakteurin bei ELLE.com, wo sie auch über Nachrichten, Politik und Kultur berichtet. Wenn sie nicht online ist, macht sie wahrscheinlich ein Nickerchen oder versucht, beim Klettern nicht zu stürzen.