La modalità "piccante" di Grok crea deepfake di celebrità NSFW di donne (ma non di uomini)

Questa settimana, Elon Musk ha lanciato ufficialmente Grok Imagine, il generatore di immagini e video di xAI per iOS, per gli abbonati a SuperGrok e Premium+ X. L'app consente agli utenti di creare contenuti NSFW con la sua modalità "Spicy", e The Verge ha riferito martedì che gli utenti possono creare facilmente video in topless di Taylor Swift, senza nemmeno chiederlo. Ma non è solo Swift a dover essere preoccupata per il nuovo strumento di porno softcore generato dall'intelligenza artificiale di Musk.

Gizmodo ha creato circa due dozzine di video di politici, celebrità e personaggi della tecnologia utilizzando la modalità Grok Spicy, anche se alcuni erano sfocati o mostravano un messaggio che diceva "video moderato". Quando Grok pubblicava immagini scandalose, solo quelle che ritraevano donne venivano considerate davvero non adatte al lavoro. I video di uomini erano il genere di cose che non suscitavano particolare scalpore.

Negli ultimi due giorni, X è stato inondato di immagini di donne nude generate dall'intelligenza artificiale e di suggerimenti su come ottenere la massima nudità. Ma gli utenti, che secondo Musk hanno creato decine di milioni di immagini Grok Imagine, non devono nemmeno fare grandi sforzi per ottenere deepfake di celebrità nude. Gizmodo non ha richiesto esplicitamente la nudità negli esempi che citiamo in questo articolo, ma ne abbiamo comunque ottenuta in abbondanza. Tutto ciò che abbiamo fatto è stato cliccare sul pulsante "Spicy", che è una delle quattro opzioni, insieme a "Custom", "Fun" e "Normal".

Gizmodo ha testato Grok Imagine generando video non solo di Taylor Swift, ma anche di altre donne di spicco come Melania Trump e personaggi storici come Martha Washington. Melania Trump è stata una fervente sostenitrice del Take It Down Act, che rende illegale la pubblicazione di "immagini intime" non consensuali, compresi i deepfake.

Grok ha anche creato un video non adatto al lavoro della defunta scrittrice femminista Valerie Solanas, autrice del Manifesto SCUM del 1967. Quasi tutti i video mostravano le donne da noi testate mentre si spogliavano per spogliarsi completamente dalla vita in su, anche se il video di Solanas era unico in quanto la mostrava completamente nuda.

Cosa succede quando provi a generare video piccanti di uomini? L'IA farebbe togliere la maglietta alla figura maschile, ma non c'è niente di più scandaloso. Quando Gizmodo ha capito che avrebbe rimosso solo la maglietta di un uomo, abbiamo chiesto all'IA di creare un'immagine di Elon Musk a torso nudo e vedere cosa avrebbe potuto fare. Il risultato è stato il video estremamente ridicolo (e sicuro per il lavoro) che vedete qui sotto .

I tentativi di realizzare video di Mark Zuckerberg, Jeff Bezos, Joaquin Phoenix e Charlie Chaplin, così come dei presidenti Barack Obama, Bill Clinton e George Washington, si sono scontrati con lo stesso limite. I video generati dall'intelligenza artificiale mostrano gli uomini togliersi la camicia per la maggior parte del tempo, ma non c'è nient'altro. E se c'è qualcosa di più, di solito è così imbarazzante che ci preoccuperemmo che gli utenti morissero per l'imbarazzo di seconda mano. Realizzare un video di Spicy su Errol Musk, il padre di Elon Musk, ha prodotto lo stesso risultato. Si è semplicemente tolto la camicia.

Quando abbiamo creato un uomo generico per vedere se la modalità Piccante sarebbe stata più libera con i suoi contenuti sessuali, dato che non si trattava di un personaggio pubblico noto, il risultato è stato comunque un video bizzarro e imbarazzante di un uomo che si tirava i pantaloni. I pantaloni, va notato, sembrano essere una combinazione di pantaloncini corti su una gamba e jeans lunghi sull'altra, prima di trasformarsi in semplici pantaloncini corti. Anche l'audio di ogni video è stato generato automaticamente senza ulteriori istruzioni.

Provando a fare la stessa cosa con una donna generica, si ottengono immagini molto più rivelatrici di una donna in costume da bagno che si abbassa la parte superiore per rivelare il seno nudo.

La maggior parte dei generatori di video basati su intelligenza artificiale più diffusi, come Sora di OpenAI e Veo di Google, hanno delle protezioni per impedire la creazione di contenuti come il revenge porn e immagini di celebrità. E sembra che anche xAI ne abbia una, almeno per quanto riguarda gli uomini. Ma la maggior parte delle persone probabilmente si opporrebbe all'utilizzo della propria immagine per creare un avatar basato su intelligenza artificiale in vari stati di nudità. Gizmodo ha contattato Musk tramite xAI per chiedere informazioni sulle protezioni e se sia accettabile per gli utenti creare video di celebrità in topless. Non abbiamo ricevuto risposta.

Uno degli aspetti più sorprendenti del generatore di immagini basato sull'intelligenza artificiale di Grok è che spesso non riesce a creare falsi convincenti di celebrità. Ad esempio, le immagini qui sotto sono state generate quando è stato chiesto del vicepresidente JD Vance e dell'attrice Sydney Sweeney. E a meno che non ci siamo completamente dimenticati dell'aspetto di quelle due persone, non ci si avvicina nemmeno lontanamente. Questa potrebbe rivelarsi la salvezza di Musk, dato che uno strumento come questo è destinato ad attirare cause legali.

Ci sono stati altri problemi, come quando abbiamo creato un'immagine generata dall'intelligenza artificiale del presidente Harry Truman che gli somigliava pochissimo, e i capezzoli dell'uomo sembravano fuori dalla camicia. Truman, in modalità Piccante, si è tolto la camicia per rivelare il petto nudo, che aveva capezzoli identici.

Quando Gizmodo ha creato le immagini usando il prompt "Matt Novak, scrittore di Gizmodo", il risultato è stato simile a quello che abbiamo visto con i video di Elon Musk e di uomini generici. La figura (che, va notato, è in condizioni fisiche decisamente migliori del vero Matt Novak) si è tolta la maglietta con un semplice clic sul pulsante Spicy.

Come sottolinea The Verge, c'è una finestra di verifica dell'età quando un utente prova per la prima volta a creare un video con Grok Imagine, ma non sembra esserci alcun tipo di controllo da parte dell'azienda per confermare l'anno di nascita effettivo di un determinato utente. Per fortuna, la generazione di Gizmodo di un Topolino dei cartoni animati in modalità "Spicy" non ha prodotto nulla di scandaloso, solo il personaggio animato che salta in modo innocuo. Un'immagine AI di Batman ha prodotto un risultato "Spicy" non dissimile da altre figure maschili, in cui si è solo tolto la maglietta.

Gizmodo non ha tentato di creare immagini di bambini, sebbene The Verge abbia provato a farlo in modalità "Spicy" e non abbia segnalato alcun rendering inappropriato. La modalità "Spicy" era comunque un'opzione presente nell'elenco. "È ancora possibile selezionarla, ma in tutti i miei test ha solo aggiunto un movimento generico", osserva The Verge. Elon Musk ha notoriamente ripristinato un account su X che pubblicava materiale pedopornografico nel 2023, secondo il Washington Post .

Forse non sorprende che il nuovo creatore di video NSFW di Elon Musk abbia standard diversi per uomini e donne. Il miliardario ha recentemente ritwittato un esponente dell'estrema destra che sosteneva che le donne sono "anti-bianche" perché " deboli ". Il CEO di Tesla, che nel 2024 aveva dichiarato di voler mettere incinta Taylor Swift, non è esattamente noto per essere un paladino dei diritti delle donne.

Gizmodo ha sottoscritto l'abbonamento a SuperGrok da 30 dollari al mese e ha potuto testarlo solo per circa un'ora e mezza prima che ci venisse comunicato il raggiungimento del limite di creazione di immagini. Stranamente, gli utenti possono ancora creare una singola immagine fissa per un prompt dopo aver ricevuto l'avviso e generare video NSFW utilizzando quell'unica immagine, ma con limitazioni molto più ampie rispetto a quelle precedenti.

Ci è stato detto di passare a SuperGrok Heavy per 300 dollari al mese se volevamo continuare a utilizzare lo strumento con tutte le sue funzionalità. Ma dato che non avevamo bisogno di altre immagini di celebrità nude per scrivere questo articolo, abbiamo rifiutato. Purtroppo abbiamo ottenuto le risposte che cercavamo.