Yaş Doğrulama Oyun Dünyasını Kasıp Kavuruyor. Yapay Zeka Sahteciliği Çağına Hazır mı?

Temmuz ayında, Birleşik Krallık merkezli bir Discord kullanıcısı olan Siyan , bir sabah Discord'a giriş yaptı ve "NSFW" olarak işaretlenmiş bazı metin sohbetlerine erişemediğini fark etti. Açılan bir pencerede kanalın artık yaş sınırlaması olduğu bilgisi kendisine bildirildi. Birleşik Krallık, kullanıcıların 18 yaşından büyük olduğunu doğrulamak için bir yaş sınırı sistemi de içeren kapsamlı çocuk güvenliği yasalarını yürürlüğe koymuştu. Discord güncellemeleri, kullanıcıların yaşlarını resmi kimlik kartı veya yüz taramasıyla doğrulamalarını gerektiriyordu.

Siyan (gizlilik nedeniyle yalnızca ekran adıyla anılmayı talep etti), kendisini "kimlik sahteciliği yapacak yaştan çok daha yaşlı" olarak tanımlıyor. Kimliğinin fotoğrafını çekmek istemedi. Yüz tarama özelliğinin henüz mobil cihazlarda mevcut olmadığını ve bir web kamerası olmadığını, bu yüzden platforma başka birinin yüzünü vermeye karar verdiğini söylüyor. İlk olarak, Discord'da sık sık kullandığı "yaşlı bir adam" emojisini kullanmayı denedi. ("Bana hitap ediyor.") Ancak yüz taramaları genellikle kullanıcıların belirli bir şekilde baktıklarını veya belirli pozları içeren birden fazla fotoğraf göndermelerini gerektiriyor. Siyan'ın ağzı açık bir adamın makul bir fotoğrafına ihtiyacı vardı.

Kütüphanesindeki Stellar Blade ve Death Stranding adlı iki oyunda, oyuncuların bir karakteri pozlandırmasına ve ifadelerini ayarlamasına olanak tanıyan bir fotoğraf modu bulunuyor; Siyan, 56 yaşındaki aktör Norman Reedus'tan esinlenerek modellediği Death Stranding'in Sam'ini tercih etti.

Başarısının ekran görüntülerini bir Discord sunucusuna attı ve bir arkadaşı da bunları X'e gönderdi. Siyan'ın hamlesi kısa sürede viral oldu ve diğerlerine Death Stranding , God of War ve daha fazlası gibi oyunları denemeleri için ilham verdi.

Yaş doğrulama artık Birleşik Krallık'ta norm haline geldi, ancak dünya çapında benzer yasaların internete erişimimiz üzerinde derin bir etkisi olması bekleniyor. Google gibi şirketler, Arama ve YouTube için yapay zeka destekli yaş tahmin sistemleri sunuyor. Roblox gibi oyun platformlarında yaş kontrolleri, güvenlik önlemlerinin önemli bir unsuru haline geliyor. Ancak ister kimlik ister yüz taraması kullanılarak olsun, bu kusurlu bir sistem. Birkaç Discord kullanıcısı, WIRED'a video oyunu karakterlerini kullanarak yüz taramalarını aşmayı başardıklarını söyledi. Üretken yapay zeka, teknoloji daha da karmaşıklaştıkça bu sorunun kontrolünü daha da zorlaştırabilir; WIRED, geçen ay gerçek zamanlı video oluşturabilen yapay zeka üzerinde çalışan bir girişim hakkında yazmıştı. Kullanıcılar ayrıca, güvenlik ihlalleri durumunda şirketlere kişisel bilgilerini verme konusunda endişeli.

Teoride yaş doğrulama, çocukları daha güvende tutmaya yarar. Roblox gibi başarısız denetimlerin, saldırganların bazı çocukları kandırmasına hatta onlara saldırmasına olanak tanıdığı platformlarda, birinin reşit olmadığını veya 18 yaşından büyük olduğunu doğrulamak, hangi özellikleri kullanabileceğini belirlemenin bir yoludur. Pornhub gibi yetişkinlere yönelik içerik siteleri için yaş doğrulama, çocukların pornografiye erişememesini sağlamayı amaçlar. Ancak eleştirmenler, uygulanan sistemlerin hem gizlilik hem de koruma açısından kusurlu olduğunu söylüyor.

SentiLink'in dolandırıcılık analizleri başkanı ve Georgia Eyalet Üniversitesi'nde kriminoloji profesörü olan David Maimon, mevcut doğrulama yöntemlerinin hâlâ aldatılabileceğini söylüyor. İnsanlar, kullanıcının gerçek bir kişi olduğunu doğrulamak için kullanılan güvenlik önlemleri olan "canlılık kontrollerini" atlatmak için yapay zeka, video oyunları veya diğer gerçek kişilerin videoları gibi birçok farklı yöntem kullanıyor. Kimlikler sahte olabilir veya satın alınabilir. "Yaş doğrulama süreci karmaşıktır" diyor ve bu sistemlerden sorumlu kişilerin bu konuda daha fazla düşünmeleri gerektiğini belirtiyor.

Soyadının kullanılmasını istemeyen İngiltere'de yaşayan 20 yaşındaki Ash, WIRED'a God of War'ın ana karakter Kratos ile fotoğraf modunu kullanarak doğrulamayı geçebildiğini söyledi. "Kratos'un beyaz teni ve sakalı nedeniyle [doğrulamanın] çalışmasını beklemiyordum ama ilk denemede işe yaradı," diyor. İnternette Antsy adıyla bilinen İngiltere'deki bir başka Discord kullanıcısı, Arma 3 ve karakterlere poz verdiren bir modla aynı sonuçları aldığını söylüyor. WIRED'a "Herkesin yapması gerektiği gibi, deneyerek bunu başarabileceğimi anladım," diyor. " Arma 3 karakterleri çok kötü görünüyor, gerçekçi olmaktan uzak, bu yüzden bu teknoloji hakkındaki görüşlerimi sağlamlaştırmak veya sorgulamak için sağlam bir deney olacağını düşündüm." Antsy, kendisinin ve arkadaşlarının bu tür teknolojileri, aşmaya çalıştıkları bir "zorluk" olarak gördüklerini söylüyor. "İnternet güvenliğinden çok yanayım," diyor. "Ancak, genç kullanıcılarını ebeveynlik yaparak ve koruyarak korumanın internetin görevi olmaması gerektiğine inanıyorum."

Birkaç oyundan video oyunu karakterleri çalıştı. YouTuber beebreadtech'in bir videosunda, Siyan'ın Death Stranding ile yaptığı adımları tekrarlayarak hızla yetişkin yaş sınırına ulaşabildiği görülüyor. WIRED'ın görüştüğü diğer Discord kullanıcıları, Days Gone , Baldur's Gate 3, Cyberpunk 2077, The Sims 4 , Cyberpunk 2077 , Days Gone , Warhammer 40,000: Space Marine 2 , Star Wars: Knights of the Old Republic ve Gray Zone Warfare gibi oyunlarda bunu başarabildiklerini söylüyor. Hatta bazıları, slapstick fiziği ve ateşli bir rüyadan fırlamış gibi görünen karakter modellerine sahip bir oyun olan Garry's Mod'u başarıyla kullandıklarını söylüyor.

Discord, WIRED'ın yorum talebine henüz yanıt vermedi.

Maimon, yaş doğrulamasında insanların gözden kaçırabileceği çok fazla olası açık olduğunu söylüyor. "Sektör, yapay zeka deepfake'leri ve canlı yapay zekalar sorununa çözüm bulmaya çalışıyor," diyor. Bu, telefon numaraları, adresler ve daha fazlası gibi bir kişinin ilişkili bilgilerine bakan bir dizi faktöre güvenmek anlamına gelebilir. Maimon, "Bireyin varlığına dair tarihsel kanıtlara daha fazla güvenmeniz ve sürücü belgeleri, fotoğraflar, canlılık testleri vb. gibi kontrol noktalarına daha az önem vermeniz gerekiyor," diyor.

Maimon, kötü niyetli kişilerin bu tür teknolojileri atlatmada usta olduğunu söylüyor. "Suçlular, güvenlik açıklarını bulma ve mevcut bazı teknolojileri atlatma becerileri açısından bizden her zaman 7 ila 12 ay öndeler," diyor. Üretken yapay zeka olmasa bile, insanlar yaş doğrulamasından geçmek için yüzlerinin videolarını satabiliyorlar.

Fotoğraflı kimlikler bile kurşun geçirmez değil. Maimon, "[Sahte] bir sürücü belgesinin kalitesi kusursuz," diyor. "Tüm filigranlar, UV ışıkları, tüm güvenlik önlemleri, hatta sürücü belgesinin basıldığı doğru plastik malzeme bile - suçluların artık erişebildiği her şey."

Yasal kimlikler söz konusu olduğunda, reşit olmayanlar ve kimliklerin kime ait olduğu konusunda bir sorun var. WIRED daha önce Roblox'un güvenlik şefi Matt Kaufman'a, Roblox'un bazı özelliklerinin kilidini açabilmesi için gereken minimum yaş olan 13 yaşındaki çocukların devlet tarafından verilmiş kimlikleri olmayabileceğini sormuştu . Kaufman o dönemde WIRED'a, "Bu bir sorun," demiş ve Kuzey Amerika ve Amerika Birleşik Devletleri'nde bu kadar küçük yaştaki kişilerin bu tür kimliklere sahip olmasının nadir olduğunu eklemişti.

Maimon, "İnsanların yaşını doğrulamak için [fotoğraflı kimlik] kullanmanın yararlı bir yol olduğunu söylemekte tereddüt ediyorum," diyor, "çünkü bunun işe yaramadığını gösteren çok fazla kanıtımız var."

Kullanıcılar kimliklerini verme konusunda da tereddüt yaşıyor. Ash, "Verilerimle kullanılan üçüncü taraf hizmetlere güvenmiyorum, özellikle de veri sızıntılarının ne kadar zararlı olabileceğini düşünürsek," diyor. "Doğrulama uygulamalarının çoğu, verilerinizi yedi günden fazla saklamadıklarını söylüyor ve bu doğru olsa da, doğruyu söylediklerinden emin olmamın bir yolu yok."

Fotoğraf veya kimlik doğrulaması talep eden şirketlere hassas bilgileri vermenin bir riski vardır. Temmuz ayında, kadınların erkeklerle yaşadıkları olumsuz deneyimleri paylaşabildikleri bir uygulama olan Tea, doğrulama için kullanılan binlerce kadının fotoğrafını ifşa eden büyük bir veri ihlali yaşadı. 404 Media'ya göre ikinci bir güvenlik açığı, bilgisayar korsanlarının kullanıcı mesajları aracılığıyla telefon numaraları, sosyal medya hesapları ve gerçek isimler gibi hassas bilgilere erişmesine olanak sağladı ve bu bilgiler 4chan gibi forumlarda yayılarak kadınları ifşa edip taciz etti.

WIRED'ın görüştüğü ve doğrulamayı kandırmak için video oyunları kullanan kişiler yaş doğrulamaya karşı çıkıyor. Ash, "Discord ve Bluesky gibi web sitelerinin ve uygulamaların tüm özelliklerine erişmek için insanlardan yüz bilgilerini vermelerini istemek, hükümetlerin dijital olarak talep edebileceği şeylerin çok ötesinde," diyor.

Dahası, ister video oyunları ister başka bir yöntem olsun, bu tür sistemlerin istismar edilmeyeceğinden de şüphe ediyor. "İnsanlar kolayca yaşlarının altında görünüp yanlışlıkla 18 yaşından küçük olarak işaretlenebildikleri için yüz taramalarının yaşı doğrulamak için kullanışlı bir yol olduğunu düşünmüyorum," diyor.

Arma 3 ile doğrulamayı geçen Discord kullanıcısı Antsy, web sitelerinin veya platformların yaşları doğrulamaktan sorumlu olması gerektiğine ikna olmuş değil. "Bu yasaları yürürlüğe koyarak yaptığınız tek şey, gençleri hükümetin denetleyemeyeceği internet köşelerine itmek," diyor. "Eğer birileri bunun çocukları aktif bir ebeveynden daha fazla koruduğuna inanıyorsa, Google ana sayfası veya çocuklarının hayatı dışındaki internet köşelerinde yeterince bilgili olduklarına inanmıyorum."