Deepfake AI Etkileyicisi Düğün Fotoğraflarımı Çaldı
Tam zamanlı bir içerik üreticisi olan Kelly Stranick ( @kellygracemae ), hayatınızı çevrimiçi paylaşmanın bir riskinin, ara sıra diğer kişilerin fotoğraflarınızı çalmaya çalışması olduğunu biliyor. Farkına varmadığı şey, bazen bu kişilerin gerçek insanlar olmadığıdır. Aşağıda, Brooklyn merkezli etkileyici, kendi ifadeleriyle, deepfake AI tarafından oluşturulmuş bir Instagram hesabının düğününü kendi düğünleriymiş gibi göstermeye çalıştığını keşfettiğinde neler olduğunu paylaşıyor.
Mart 2019'da teknoloji alanında bir iş için San Francisco'ya taşındım ve bana Hinge'e girmem gerektiğini söyleyen üç çocukla yaşadım. "İnsanlar böyle tanışıyor," dediler. "Dünya artık böyle işliyor." Onlara tamam, yapacağımı söyledim ve Andy adında bir çocukla eşleştim ve bir randevuya çıktım. Daha 24 yaşındaydım ve kocamla tanışma planım yoktu - ama bir şey oldu ve işler böyle gelişti. Mayıs 2019: İlk ve tek Hinge randevum.
2022'de nişanlanacağımızı düşünmüştüm ama bunun yazın olacağını tahmin ediyordum. Andy 4 Mart 2022'de evlenme teklif ettiğinde beni tamamen hazırlıksız yakaladı; tayt giymiştim ve makyajsızdım, neyse ki saçlarım fönlenmişti. Düğünlerini düşünerek büyüyen kızlardan değilim. Evleneceğimi bile düşünmemiştim. Boşanmış bir aileden geliyorum ve geçmiş ilişkilerimde çok fazla travma yaşadım, bu yüzden bir gün düğün yapmayı pek düşünmedim. Bu yüzden nişanlandığımızda, aynı zamanda bir aile dostumuz olan tam hizmet düğün planlayıcısı Veronica Joy Events'i işe aldık. Ona bir Pinterest fikirleri panosu verdim ve "Renkli çiçekler ve disko topları istiyorum. Çılgın bir parti gibi hissettirmesini istiyorum" dedim ve gerisini ona bıraktım.
Nişanlanmamızdan birkaç ay sonra, 2022 baharında TikTok yapmaya başladım. Sadece eğlence amaçlıydı - 2023'ün başına kadar gerçekten bir izleyici kitlem yoktu - ve çevrimiçi olarak daha kişisel olmaya alışıyordum, hayatımda olup bitenler hakkında konuşmak da dahil, o zamanlar düğün planlamasıydı. Düğün süreci hakkında paylaşımlarda bulunuyordum ve ilk dansımızı veya nedimelerimizi yapmamak gibi bizim için gerçekçi gelen kararlarımızdan bahsediyordum. Ancak içeriğimin düğünle ilgili olduğunu veya buna benzer bir şey olduğunu söyleyemem.
Sıra düğün günümüze geldiğinde, hayatımın en güzel günü olacağına dair hiçbir beklentim olmadığını düşünen insanlardandım. Önceliğim sakin olmak, anda kalmak, günün tadını çıkarmak ve strese kapılmamaktı. Sabah kendi başıma zamanım vardı; benimle birlikte hazırlanan büyük bir grup insan yoktu. Çok rahat olmasını istiyordum. Ama bu beklentilerim olmadığı için, aslında hayatımın en güzel günü oldu. Başından sonuna kadar her şeyin tadını çıkarabildim çünkü bu niyetleri belirlemiştim. Kendimi yüzer gibi hissediyordum. O gün olduğu gibi, her gün en iyi halimde olabilirsem, durdurulamaz olurdum.
Düğünden sonra, perspektif ve tavsiye vermek için kesinlikle heyecanlanmıştım ama insanların ne kadar çok şey bilmek istediklerine şaşırdım. Tedarikçilerimizden bahsettim ve düğünümüzle ilgili düşünce tarzım hakkında çok konuştum ama en çok dikkat çeken şey düğünden kaçıp after party için Brooklyn Mirage'a gitmemizdi.
Sonra yakın zamanda takipçilerimden birinden Instagram'da bir mesaj aldım. Şöyle dedi, "Hey, sadece kaydırıyordum ve bu videoyu gördüm. Bu senin düğün fotoğrafın." Videoda benim düğünümün, kocamın, Andy'nin, her şeyin bir fotoğrafı vardı ama benim yüzüm değildi. Diğer etkileyici benim yüzümü kendi yüzüyle değiştirmişti ve düğününde yaptığı küçük şeylerden bahsediyordu. Hiçbiri benimle uzaktan yakından alakası yoktu, sadece videosunun girişi olarak fotoğrafımı kullanmıştı. İlk tepkim, Ne oluyor yahu? Düğün fotoğrafımı çeken, yüzünü fotoğrafa koyan ve bununla ilgili içerik üreten bu kişi kim? oldu.
Bunun yapay zeka olabileceği aklıma bile gelmedi. Elbette insanlar Photoshop için yapay zeka kullanıyor ama videodaki kişinin yapay zeka olduğunu, bu çileyi paylaşana kadar fark etmemiştim. Sonra insanlardan "Bu bir deepfake. Bu gerçek bir insan bile değil." diyen çok sayıda mesaj almaya başladım.
Söz konusu videonun ekran görüntüsü.
Bu kısmı hiç çevrimiçi paylaşmadım, ancak düğünümüzden yaklaşık altı ay sonra benzer bir şey başıma geldi. Takipçilerimden biri, RedNote'taki bir kızın tam olarak aynı fotoğrafı çektiğini ve yüzünü ustaca vücuduma Photoshopladığını söyledi. Bu yüzden bu yeni kişinin gerçek olmadığı aklıma bile gelmedi; ta ki insanlar bana hesabın bir deepfake olduğunu söyleyene kadar. Tamamen yapay zeka tarafından oluşturulmuş bir kişi mi yoksa bu videoları oluşturmak için birinin sesini ve benzerliğini mi kullanıyorlar hâlâ bilmiyorum. Ayrıca, 60.000'den fazla takipçisi olan deepfake hesabının arkasındaki tüm niyetin, fotoğrafları tek kullanımlık bir kameradan çıkmış gibi gösteren bir uygulamayı satmak ve tanıtmak olduğunu yakın zamana kadar fark etmemiştim.
Bu durum kesinlikle bende birçok düşünceyi canlandırdı. Aslında videoda olmadığım için kendimi daha az bağlı hissediyorum, ancak içerik üreticisi ve podcaster olan Arielle Lorre gibi insanların, bir şirket tarafından ürünleri hakkında "konuştuğu" bir yapay zeka tarafından oluşturulmuş ücretli reklam oluşturmak için yüzü ve sesi kullanılan kişileri gördüm. Ben olsam, çok öfkelenirdim. Çok kafam karışır, korkar ve sinirlenirdim. Yasal işlem başlatmaya çalışırdım.
"Farkı anlayamayan insanların zaaflarından yararlanıyor."
Benim durumumda, bunun tamamen sahte, yapay zeka tarafından oluşturulmuş bir kişi olması konusunda ne hissettiğimden emin değilim. Bunun daha az zararlı olduğunu düşünüyorum, ancak bazı insanlar bunun gerçek olup olmadığını da bilmiyor. Ayrıca, internette bir şeyler paylaşmak zorunda olan ve daha sonra birinin bu sesi veya videoyu manipüle edip hiç bahsetmedikleri ürünleri tanıtmak için kullanma riskine maruz kalan içerik oluşturucuları için zararlı. Ayrıca annem bazen Instagram Reels'de geziniyor ve ebeveynlerimizin ve büyükanne ve büyükbabalarımızın çoğu gerçek bir insan tanıklığı ile yapay zeka tarafından oluşturulmuş olanı her zaman ayırt edemiyor. Bu, farkı söyleyemeyen insanların kırılganlığından yararlanıyor. Genel olarak, tükettiğimiz içeriğin farkında olmamız ve gerçekten de şeylere "Bu gerçek mi değil mi?" merceğinden bakmamız gerekiyor.
Bu deneyimin benim için gerçekten doğruladığı tek şey, çocukları bu dünyaya getirdiğimde onları çevrimiçi paylaşmamak veya herhangi bir şekilde güvenliklerini tehlikeye atmamak için aktif bir çaba göstermek istememdir. İnternete bir şey koyan herkes risk altındadır; takipçisi olan bir etkileyici olmanız veya çevrimiçi bir yerde onların bir videosuna sahip olmanız fark etmez.
Dürüst olmak gerekirse, bana göre bunların hepsi sadece komik bir hikaye. Gerçek bir insan olmaması tuhaf. AI etkileyicilerinin var olduğunu bile bilmiyordum ama daha yaygın hale geleceklerini düşünüyorum çünkü bir marka sahte bir etkileyiciye ödeme yapmak zorunda değil. Gerçekten, Andy'yi videoda tuttuklarına ve beni tutmadıklarına inanamıyorum. Çok kaba.
Bu röportaj açıklık sağlamak amacıyla düzenlenmiş ve özetlenmiştir.
Dijital Yardımcı Editör
Madison, ELLE.com'da Dijital Yardımcı Editör olarak çalışıyor ve burada haber, siyaset ve kültür konularını da ele alıyor. Çevrimiçi değilse muhtemelen uyuyordur veya kaya tırmanışı yaparken düşmemeye çalışıyordur.
elle
