Racistische video's gemaakt met AI bekeken door miljoenen op TikTok en YouTube

Googles AI-gestuurde videotool Veo 3 werd gebruikt om racistische video's te maken die miljoenen keren bekeken zijn op TikTok en YouTube, meldt Media Matters. De waakhond zegt dat de video's het Veo-watermerk in de hoek hebben en dat één ervan 14,2 miljoen keer bekeken is. Sommige gebruikers vermelden hashtags, bijschriften of zelfs gebruikersnamen die bij Veo 3 horen.

De videoclips duren óf allemaal acht seconden, óf ze bestaan ​​uit verschillende clips van elk slechts acht seconden. Dit ligt binnen de limiet van de Veo 3-videogenerator, legt The Verge uit.

De oplossing van Google, die in mei werd gelanceerd, stelt dat het "schadelijke verzoeken en resultaten blokkeert" en TikTok stelt in zijn regels ook dat het platform "geen content aanbeveelt die negatieve stereotypen bevat over een persoon of groep met beschermde kenmerken". Het is daarom nog niet duidelijk hoe de video's ten eerste door de tool van Google zijn gegenereerd en ten tweede zijn goedgekeurd voor weergave op het Chinese platform.

TikTok-woordvoerder Ariane de Selliers zei: "We handhaven proactief strenge regels tegen haatzaaiende uitlatingen en gedrag en hebben accounts verwijderd die in het rapport worden genoemd. Veel van deze accounts waren al geblokkeerd voordat het rapport werd gepubliceerd." Google heeft nog niet officieel gereageerd op het rapport, maar er zijn soortgelijke video's ontdekt op YouTube en Instagram.