I giocatori di Fortnite stanno già facendo imprecare Darth Vader, l'IA

Venerdì, Epic Games ha annunciato che Darth Vader sarebbe tornato in Fortnite come boss del gioco, ma questa volta i giocatori avrebbero potuto parlare con lui tramite un'intelligenza artificiale conversazionale. "Ponigli tutte le tue domande urgenti sulla Forza, l'Impero Galattico... o, sai, una buona strategia per l'ultimo cerchio della Tempesta", ha affermato Epic nel suo annuncio .

Sfortunatamente, i giocatori avevano altri piani. Poche ore dopo l'apparizione di Vader in Fortnite , i giocatori hanno iniziato a pubblicare clip di Vader, l'IA, che si scatenava.

"Che cavolo di cibo è questo, Darth Vader? Dimmelo", chiede lo streamer Loserfruit in una clip pubblicata su X. "Cavolo? Cazzo? Una tale volgarità non ti si addice", risponde Vader. (Una portavoce di Epic Games, Cat McCormack, ha dichiarato a WIRED che l'azienda ha rilasciato un hotfix "entro 30 minuti da quando è successo questo nel gioco, quindi non dovrebbe succedere di nuovo").

Più tardi, durante una conversazione su possibili partner romantici, Loserfruit induce Vader a rispondere: "Parli di seni, Loserfruit? Immagino che ti riferisca alle corazze corazzate".

In una clip di un altro streamer, si sente Vader parlare di sostanze cancerogene prima di pronunciare un insulto tipicamente usato contro gli uomini queer, che può anche essere usato in gergo per indicare le sigarette. Si sente lo streamer urlare "LO HA DETTO L'HA DETTO! L'HA DETTO!" prima di scappare via esultante.

L'IA, realizzata con Google Gemini 2.0, è programmata con Flash v2.5 di ElevenLabs per riprodurre la voce del compianto James Earl Jones, doppiatore dell'iconico personaggio. Oltre alle impostazioni di sicurezza di Google, Epic afferma di aver aggiunto le proprie istruzioni per impedire interazioni dannose o che violino le regole della community del gioco. I giocatori possono segnalare Darth Vader per commenti inappropriati, proprio come in qualsiasi altra chat vocale.

Epic ha dichiarato a WIRED di aver aggiunto regole e istruzioni specifiche per evitare parolacce o parolacce ripetute come parte delle sue misure di sicurezza, oltre a controlli parentali specifici per l'uso dell'IA nel gioco. Riferendosi all'uso della bomba F da parte di Vader, McCormack afferma che "i nostri filtri non hanno rilevato una specifica variante di un'imprecazione. Quando ciò accade, apportiamo modifiche per evitare risposte simili in futuro".

Se un giocatore continua a cercare di far violare a Darth Vader le impostazioni e le istruzioni di Epic Games, abbandonerà la squadra. Non sarà più possibile reclutarlo in quella sessione di gioco. "Queste impostazioni e restrizioni di sicurezza sono state rigorosamente testate da una combinazione di dipendenti Epic ed esperti esterni", afferma McCormack.

"Esamineremo le segnalazioni e, se necessario, apporteremo modifiche per evitare che in futuro si verifichino risposte simili", ha affermato McCormack.

Fortnite è un parco giochi digitale per milioni di giocatori, molti dei quali giovani. Non sorprende che la gente cerchi immediatamente di far dire qualcosa di offensivo a Darth Vader, di proprietà della Disney. Ma la velocità con cui i giocatori sono riusciti a farlo suggerisce che l'IA generativa non è ancora del tutto pronta per essere scatenata su una grande piattaforma di gioco.

In alcuni casi circolati venerdì, il contesto insidioso di ciò che Vader sta dicendo era presumibilmente troppo sottile perché un'IA potesse rilevarlo. Si consideri un'altra clip, in cui Vader liquida lo spagnolo come "una lingua utile per contrabbandieri e commercianti di spezie. Il suo valore strategico è minimo". O un'altra, in cui un giocatore chiede a Vader di fornire una "lista di livelli" dei colori bianco, marrone e giallo.

Lucasfilm non ha risposto immediatamente alla richiesta di commento.

La controversia su Vader non è stata l'unica a fermentare venerdì su Fortnite . All'inizio della giornata, Epic ha annunciato che "Apple ha bloccato la nostra richiesta di Fortnite , quindi non possiamo rilasciarla sull'App Store statunitense o sull'Epic Games Store per iOS nell'Unione Europea".

Epic e Apple sono in una lunga disputa su Fortnite . Apple generalmente addebita una commissione per gli acquisti in-app; dopo che Epic ha aggiornato la sua app per collegarsi al suo sito ed evitare le commissioni, Fortnite è stato rimosso dall'App Store. La scorsa settimana, Epic ha ripresentato il gioco all'App Store statunitense dopo che un giudice ha stabilito che Apple non poteva addebitare commissioni per acquisti effettuati al di fuori dell'app. Contattato da WIRED per un commento, un portavoce di Apple ha contestato la descrizione degli eventi da parte di Epic, ma il gioco non è ancora disponibile per iPhone e altri utenti iOS.

Venerdì, Epic ha presentato il suo nuovo boss, Vader, con il messaggio "Questo sarà un giorno che ricorderete a lungo". Ma forse non per il motivo che pensava.