'Çıplaklaştırma' Uyarısı: Yapay Zeka, Herhangi Bir Fotoğrafı 'Soyan' Uygulamalara Güç Veriyor

Bir teknoloji taciz ve dijital şiddet silahına dönüştüğünde ne olur? Peki ya internetin temel direkleri olan Amazon, Google veya Cloudflare bunu engellemekle kalmayıp dolaylı olarak kolaylaştırırsa?

Son iki yılda, fotoğraflardaki kişilerin rızası olmadan gerçek fotoğraflardan sahte çıplak fotoğraflar oluşturmanıza olanak tanıyan web siteleri ve uygulamalar hızla yaygınlaştı . "X-ışını" görevi gören uygulamaların vaadi yeni değil, ancak yapay zeka sayesinde yeniden canlandı.

Yeni bir araştırma, bu gizli sektörü mümkün kılan kapsam, iş modeli ve aktörlere ışık tutuyor. En endişe verici olan ise yalnızca bu platformların varlığı değil , aynı zamanda iş dünyasının karmaşıklığı ve her gün kullandığımız teknolojik altyapıya olan bağımlılıkları.

"Çıplaklaştırma" sektörü birdenbire ortaya çıkmadı. İlk açık deepfake'ler 2017'de dolaşıma girdiğinden beri , teknoloji daha da gelişti ve demokratikleşti. Bugün, bu sitelerden birine yüklenen bir fotoğraf, sadece birkaç tıklamayla sahte bir cinsel içerik oluşturmak için yeterli. Rahatsız edici bir teknik merak olarak başlayan bu durum, yılda on milyonlarca dolar gelir elde eden, rızaya dayalı olmayan cinsel içerikli bir sektöre dönüştü.

Indicator'ın analizine göre, bu sitelerden 18'i yalnızca son altı ayda 2,6 milyon ila 18,4 milyon dolar arasında gelir elde etti . Bunu, diğer dijital eğlence platformlarında olduğu gibi abonelik veya kredi satarak yapıyorlar. Birçoğu, ortaklık programları, tanıtım videoları ve hatta porno aktrisleriyle anlaşmalar yaparak OnlyFans veya Twitch'in iş modelini taklit ediyor.

Ancak sosyal etkisi hiç de önemsiz değil. Mağdurların çoğu, fotoğraflarının manipüle edilmesine asla izin vermemiş kadınlar, çoğunlukla da gençler . Oluşturulduktan sonra, bu görüntüler sosyal medyada, forumlarda, Telegram kanallarında ve takibi zor diğer platformlarda dolaşıyor. Duygusal ve itibar açısından verdiği zararın haddi hesabı yok.

Araştırmanın en şaşırtıcı yönlerinden biri, yalnızca ziyaret sayısı veya elde edilen gelir değil, aynı zamanda sistemi destekleyen teknolojik altyapıdır . Analiz edilen 85 siteden:

• 62 kişi içerik barındırma ve dağıtımı için Amazon Web Services veya Cloudflare kullanıyor.
• 54 Google giriş sistemini kullanın.
• Birçoğunun meşru ticari ağ geçitlerine dayanan entegre ödeme yöntemleri var.

Sorun sadece bu büyük platformların kullanılması değil, aynı zamanda etkili bir denetim veya bu alanları ortadan kaldıracak sistematik müdahaleler olmadan tekrar tekrar ve kitlesel olarak kullanılmalarıdır. Indicator'ın kurucu ortağı Alexios Mantzarlis'e göre, "Silikon Vadisi, üretken yapay zekaya karşı serbest piyasacı bir yaklaşım benimsedi" ve bu da bu toksik işletmelere bir can simidi sağladı.

Google ve Amazon, politikalarının ihlal edildiğini tespit ettiklerinde harekete geçtiklerini iddia etseler de, gerçekte izleme sistemleri yetersizdir. Çoğu durumda, bu web sitelerinin yaratıcıları gerçek niyetlerini gizlemek için aracı siteleri kullanır ve böylece otomatik kontrollerden kaçınırlar.

Bu platformların yükselişi, beraberinde yeni bir dijital cinsel taciz ve şiddet biçimini getirdi. Mağdurlar, fotoğraflarının manipüle edildiğini nadiren fark ediyor. Öğrendiklerinde ise, zarar çoktan verilmiş oluyor. Ve bu tür içerikleri dijital ekosistemden kaldırmak neredeyse imkansız.

En endişe verici vakalar arasında ergenler de yer alıyor. Birçok ülkede, erkek çocuklar sınıf arkadaşlarının fotoğraflarını kullanarak deepfake içerikler oluşturuyor ve bunları WhatsApp gruplarında veya sosyal medyada paylaşıyorlar. Bu tür siber zorbalık fiziksel bir iz bırakmasa da derin yaralar bırakıyor.

Sorun , net yasaların olmaması veya yavaş uygulanmasıyla daha da karmaşıklaşıyor. Bazı ülkeler sahte cinsel içerikli görsellerin oluşturulmasını ve yayılmasını suç saymaya başlasa da, yasal çerçeve henüz teknolojiye ayak uyduramadı. Platformlar ise içerik sağlayıcı değil, yalnızca altyapı sağlayıcısı olduklarını iddia ediyor.

Çıplaklık ekonomisi giderek daha karmaşık hale geliyor. Bazı siteler daha kaliteli "premium hizmetler" bile sunuyor . Diğerleri ise yetişkin video platformlarında reklam veriyor veya ortaklık pazarlama teknikleri kullanıyor. Çevrimiçi yetişkin içeriğinin kaosu içinde meşruiyet veya en azından anonimlik arayışıyla yasal porno sektörüne karışmaya başlıyorlar.

Bu olgu, cinsel istismarın e-ticaret iş modelleriyle birleştiği dijital bir gri alanı temsil ediyor. Üstelik bunu görünüşte meşru kanallar aracılığıyla yapıyorlar: ödeme ağ geçitleri, sadakat sistemleri, SEO trafiği, tanıtılan videolar.

Uzmanlar için asıl mesele, bu platformları uygulanabilir kılan kaynaklara erişimi kesmek. Büyük teknoloji şirketleri bulut hizmetlerini, kayıt sistemlerini veya barındırma hizmetlerini engellerse, bu sitelerin çoğu çöker. Amaç onları ortadan kaldırmak değil (ki bu imkânsız bir şey), görünürlüklerini, kullanıcılarını ve gelirlerini kaybedecek kadar hayatlarını zorlaştırmaktır.

Sorun yıllardır demleniyor olsa da, son dönemdeki bazı eylemler odak noktasında bir değişime işaret ediyor . Meta, platformunda reklam veren bir çıplaklık bildiriminden sorumlu bir şirkete dava açtı . Microsoft, ünlü deepfake içerik geliştiricilerini takip etti. ABD yönetimi ise teknoloji şirketlerinin rıza dışı cinsel içerik bildirimlerine hızlı bir şekilde yanıt vermesini gerektiren tartışmalı "Kaldırma Yasası"nı (Take It Down Act) kabul etti.

Birleşik Krallık'ta cinsel içerikli deepfake içeriklerin oluşturulması zaten suç sayılıyor. San Francisco gibi bazı şehirler, bu araçları pazarlayan şirketlere dava açtı. Ancak önlemler hâlâ kısmi ve tepkisel. Ortak, kapsamlı ve kararlı bir strateji eksik.

Analistlere göre risk, bu platformların karanlık ağ veya kapalı sosyal ağlar gibi daha az düzenlenmiş dijital alanlara sığınmasıdır. Ancak bu ortamlarda bile, büyük teknoloji şirketlerinden şu anda aldıkları lojistik ve ticari desteği kaybederlerse etkileri daha az olacaktır.