TikTok wird vorgeworfen, rassistische Videos, die mit Googles KI erstellt wurden, viral zu verbreiten

KI-generierte rassistische Videos werden auf TikTok zum Problem. Dies geht aus einer Studie der US-amerikanischen Medienaufsichtsorganisation Media Matters hervor. Sie legt nahe, dass viele von ihnen möglicherweise mit Googles neuem Tool zur Inhaltsgenerierung, Veo 3, erstellt wurden .

Unter den von der Organisation gefundenen Videos stechen Inhalte hervor, die Schwarze mit Affen oder Kriminellen in Verbindung bringen; eines davon wurde auf der chinesischen App mehr als 14,2 Millionen Mal angesehen.

„Nutzer veröffentlichen auch irreführende, KI-generierte Videos über Einwanderer und Demonstranten, darunter auch Videos von Demonstranten, die von Autos angefahren werden“, stellt Media Matters fest. Der Verband hebt außerdem „besonders dystopische“ Inhalte hervor, die „Konzentrationslager und Angriffe des Ku-Klux-Klans auf Schwarze Amerikaner“ zeigen.

Diese Art von Inhalten ist gemäß den TikTok-Richtlinien verboten. Das soziale Netzwerk verbietet das Hochladen von Videos, die rassische und ethnische Gruppen entmenschlichen , sowie von Videos, die „eine Person oder Gruppe bedrohen oder den Wunsch äußern, ihr körperlichen Schaden zuzufügen“. Unabhängig davon wäre dies nicht das erste Mal, dass die Website Probleme beim Entfernen verbotener Inhalte hat. Das Unternehmen hat kürzlich einen Teil seines internationalen Moderatorenteams entlassen, um einen Teil der Arbeit an künstliche Intelligenz zu delegieren.

Tatsächlich scheinen die Videos, wie Media Matters betont, größtenteils zumindest mit Veo 3 entwickelt worden zu sein. Die Ergebnisse sind sehr realistisch und verfügen sogar über Ton, eine Funktion, die bei den meisten KI-Tools nicht verfügbar ist. Einige Videos erscheinen zudem mit Googles Wasserzeichen in einer Ecke.

Wie bei TikTok verbietet die US-Suchmaschine den Einsatz ihrer Technologie zur Erzeugung „schädlicher Ergebnisse“. Normalerweise würde Veo 3 in solchen Fällen die Anfrage direkt blockieren; es wäre jedoch nicht das erste Mal, dass es einem Nutzer gelungen ist, die Maschine dazu zu bringen, Inhalte zu produzieren, die sie nicht produzieren sollte.

ABC hat sowohl Google als auch TikTok um einen Kommentar zu den Ermittlungen von Media Matters gebeten. Keines der beiden Technologieunternehmen hat bisher auf die Anfrage reagiert.