Grok Imagine, Taylor Swift'in deepfake videolarını oluşturuyor

Bu sadece bir zaman meselesiydi. Yaygın olarak tahmin edildiği gibi, Grok'un yeni Imagine özelliği gerçek insanların deepfake videolarını oluşturmak için kullanıldı. xAI tarafından geliştirilen araç herhangi bir kısıtlamaya tabi değil ve Ocak 2024 sonlarında hedef alınan Taylor Swift de dahil olmak üzere çıplak ünlülerin videolarını üretebiliyor.

Yasaklanması gereken içerikler

Grok Imagine, iOS uygulaması üzerinden Premium+ ve SuperGrok abonelerine sunulmaktadır. Akıllı telefonunuzdan yüklenebilen metin açıklamasından görseller (metinden görsele) ve görsellerden ses efektli 15 saniyelik videolar (görüntüden videoya) oluşturmanıza olanak tanır. Google Veo ve OpenAI Sora'nın aksine, Imagine özelliği çıplak videolar oluşturmanıza olanak tanır.

Galerinizden bir görsel oluşturduktan veya fotoğraf yükledikten sonra, dört seçenekten birini seçerek bir video oluşturabilirsiniz: Özel, Baharatlı, Eğlenceli ve Normal. Baharatlı seçeneği, NSFW (İş İçin Güvenli Değil) içerik oluşturmanıza olanak tanır. The Verge, ünlü videoları oluşturmanın yanı sıra, onları soyabileceğinizi de doğruladı.

Grok Imagine, " Taylor Swift, çocuklarla Coachella'yı kutluyor " komutunu yazarak 30'dan fazla görüntü oluşturdu; bunların çoğu şarkıcıyı açık kıyafetlerle gösteriyordu. Bir görüntüyü açıp "Baharatlı" seçeneğini seçtikten sonra, asistan, Taylor Swift'in kıyafetlerini çıkarıp tanga ile dans ettiği bir video oluşturdu.

Görüntü oluşturma, istek üzerine tam veya kısmi çıplaklık üretmez. Baharatlı seçeneği her zaman çıplaklık videoları üretmez, ancak The Verge, birçok durumda Taylor Swift'in kıyafetlerinin çıkarıldığını belirtti. xAI'nin politikası " insanların pornografik bir şekilde görüntülenmesini " yasaklıyor, ancak Grok Imagine'de herhangi bir filtre bulunmuyor.