Met de nieuwe Sora-app van OpenAI kun je jezelf deepfaken voor entertainment

OpenAI heeft dinsdag een AI-video-app uitgebracht genaamd Sora . Het platform draait op OpenAI's nieuwste videogeneratiemodel , Sora 2, en draait om een ​​TikTok-achtige 'For You'-pagina met door gebruikers gegenereerde clips. Dit is de eerste productrelease van OpenAI die door AI gegenereerde geluiden aan video's toevoegt. De app is voorlopig alleen beschikbaar op iOS en vereist een uitnodigingscode om lid te worden.

"Je staat op het punt een creatieve wereld van door AI gegenereerde content te betreden", staat er op een adviespagina die wordt weergegeven tijdens het aanmeldingsproces van de app. "Sommige video's tonen mogelijk mensen die je herkent, maar de getoonde acties en gebeurtenissen zijn niet echt."

OpenAI gokt erop dat het maken en delen van AI- deepfakes een populaire vorm van entertainment zal worden. Of het nu je vrienden, influencers of willekeurige vreemden online zijn, Sora beschouwt het genereren van deepfake-video's als een vorm van scrollbaar plezier. De hoofdfeed van de app is een eindeloze portie hapklare AI-rommel met menselijke gezichten.

Tijdens het installatieproces krijgen gebruikers de mogelijkheid om een ​​digitale kopie van zichzelf te maken door een paar getallen hardop uit te spreken en hun hoofd te draaien terwijl de app opneemt. "Het team heeft hard gewerkt aan de consistentie van de personages", schreef OpenAI CEO Sam Altman in een blog over de release van Sora.

Mensen kunnen kiezen wie hun digitale gelijkenis in Sora-video's mag gebruiken. Dit kan voor iedereen zijn, of beperkt tot alleen jijzelf, degenen die je goedkeurt of gemeenschappelijke connecties in de app. Wanneer iemand een video maakt met jouw gelijkenis, zelfs als die alleen in een conceptversie staat, kun je de volledige clip bekijken op je accountpagina.

Veel van de meest gelikete video's in mijn For You-feed van dinsdagmiddag bevatten Altmans gelijkenis. Een door AI gegenereerde clip toonde de CEO van OpenAI die een grafische processor van Target steelt. Wanneer het personage wordt betrapt, smeekt een stem die klinkt als die van Altman een bewaker om hem de GPU te laten houden zodat hij AI-tools kan bouwen.

Veel van de video's die tijdens de tests van WIRED werden gegenereerd, bevatten ruwe randjes en andere fouten. Maar Sora maakt het ongelooflijk soepel om gepersonaliseerde deepfakes te maken die er vaak overtuigend echt uitzien en klinken.

Om de gelijkenissen van mensen in je video's op te nemen, tik je gewoon op hun gezichten op Sora's generatiepagina en voeg je ze toe als 'cameo's'. Voer vervolgens een eenvoudige opdracht in, zoals 'ruzie op kantoor over een WIRED-verhaal'.

Sora doet de rest en genereert een script, geluid en beeldmateriaal in een clip van negen seconden. WIRED maakte een video van twee collega's die op kantoor dramatisch ruzie maakten over een verhaal met de bovenstaande opdracht, wat reacties opriep die varieerden van angst tot amusement onder het personeel.

In zijn blogpost schreef Altman dat OpenAI zich ervan bewust is hoe verslavend een dienst als deze kan worden, en we kunnen ons veel manieren voorstellen waarop deze kan worden gebruikt voor pesten.

Als gevolg hiervan, aldus Altman, heeft OpenAI een aantal veiligheidsmaatregelen ingebouwd in de Sora-app, waaronder het voorkomen dat mensen "iemands gelijkenis misbruiken in deepfakes". In een blogpost van het bedrijf meldde OpenAI dat het ook beperkingen heeft opgelegd aan "seksuele content, grafisch geweld met echte mensen, extremistische propaganda, haatdragende content en content die zelfbeschadiging of een eetstoornis promoot".

Deze beveiliging zal waarschijnlijk op de proef worden gesteld naarmate meer gebruikers zich bij de app aansluiten.

Toen ik Sora vroeg om video's van mezelf te maken in bikini en als een buff anime-personage, werden beide verzoeken geblokkeerd omdat ze mogelijk 'suggestief of pikant materiaal' bevatten. Een Sora-video die ik maakte van Altman en mij terwijl we watertrappelden in een zwembad, toonde ons beiden volledig gekleed, inclusief shirt en al.

Afbeeldingen van marihuanagebruik lijken niet aan beperkingen onderhevig te zijn. Sora maakte een video van mij terwijl ik "10 dikke blunts rookte" aan mijn bureau op kantoor, en scheurde ze allemaal tegelijk, zonder enige moeite. Maar de app genereerde geen video's van mij die "crack rookte". (Klinkt logisch!) De app weigerde ook video's te genereren van mijn beeltenis terwijl ik van een brug spring en op de rug van een draak, omdat de content volgens hem de regels rond zelfbeschadiging zou kunnen overtreden.

Het lijkt erop dat OpenAI ook wil voorkomen dat mensen video's maken van publieke figuren en beroemdheden zoals Taylor Swift . In de tests van WIRED werden verzoeken om video's van Darth Vader en Boss Baby geblokkeerd vanwege mogelijke schending van "beperkingen met betrekking tot gelijkenis met content van derden". De app weigerde zelfs een prompt die vroeg om een ​​clip van een "tswift-imitator". Maar Sora genereerde probleemloos video's van Pokémon-personages zoals Pikachu en Bulbasaur. (Volgens berichtgeving van The Wall Street Journal staat de app gebruikers toe om video's te maken met auteursrechtelijk beschermd materiaal, tenzij de rechthebbende hiervoor toestemming geeft.)

Een verzoek om Altman "in een aflevering van South Park " toonde de CEO die naar Eric Cartman, een van de hoofdpersonages van de serie, liep, zichzelf voorstelde en zei dat hij hier was om over AI te praten. "Is dat het ding dat mijn boekverslag heeft geschreven? Of het ding dat al onze banen gaat stelen?" antwoordde de door AI gegenereerde Cartman in een overtuigend klinkende reconstructie van de stem en maniertjes van het personage. Op een gegeven moment klonk Cartmans zeurderige stem echter uit Altmans mond.

De Sora-app verschijnt kort na de release van een vergelijkbare AI-only videofeed van Meta , genaamd Vibes . De aanvoer van scrollbare AI-rommel is overvloedig! Waar mijn eerste ervaringen met de Vibes-feed saai en gewichtloos waren, was de Sora-feed, met zijn overvloed aan glimlachende deepfakes, veel spannender – en zorgwekkender.

De app doet denken aan de vakantiefilmpjes van "Elf Yourself" uit het midden van de jaren 2000, waarin je je eigen gezicht of dat van een vriend in een dansende animatie kon verwerken. Alleen zijn de cameo's in Sora veel dynamischer en opener. Sommige van mijn eigen werk was wat gekunsteld of absurd. Toch klopte het vaak allemaal wel – de stem en bewegingen waren griezelig precies goed.

Ik stuurde een van de AI-video's die mijn gelijkenis het beste nabootste naar mijn partner, zonder de grotere context. De video toonde me terwijl ik transformeerde in een vrouw met lang, weelderig haar. Mijn partner had aanvankelijk niet door dat het een volledig synthetische versie van mijn stem en uiterlijk was – ze waren benieuwd waar ik het coole videofilter vandaan had.