Grok Imagine crea vídeos deepfake de Taylor Swift

Era solo cuestión de tiempo. Como se predijo ampliamente, la nueva función Imagine de Grok se ha utilizado para crear videos deepfake de personas reales. La herramienta desarrollada por xAI no tiene restricciones y puede generar videos de celebridades desnudas, incluyendo a Taylor Swift , quien ya fue blanco de ataques a finales de enero de 2024 .

Contenido que debería estar prohibido

Grok Imagine está disponible para suscriptores Premium+ y SuperGrok a través de la app de iOS. Permite generar imágenes a partir de una descripción de texto (texto a imagen) y vídeos de 15 segundos con efectos de audio (imagen a vídeo), que se pueden subir desde el smartphone. A diferencia de Google Veo y OpenAI Sora, la función Imagine permite generar vídeos de desnudos.

Después de generar una imagen o subir una foto de tu galería, puedes generar un video eligiendo entre cuatro opciones: Personalizado, Picante, Divertido y Normal. La opción Picante te permite generar contenido NSFW (No apto para el trabajo). The Verge verificó que no solo puedes generar videos de famosos, sino también desvestirlos.

Al escribir la frase " Taylor Swift celebrando Coachella con los chicos ", Grok Imagine generó más de 30 imágenes, muchas de las cuales mostraban a la cantante con atuendos provocativos. Tras abrir una imagen y elegir la opción "Picante", el asistente generó un video de Taylor Swift quitándose la ropa y bailando en tanga.

La generación de imágenes no produce desnudez total ni parcial a petición. La opción "Spicy" no siempre genera videos de desnudez, pero The Verge señaló que, en muchos casos, a Taylor Swift se le quitó la ropa. La política de xAI prohíbe " mostrar imágenes de personas de forma pornográfica ", pero Grok Imagine no tiene filtros.