Gerçekliği örmek mi yoksa çarpıtmak mı? Yapay zeka sistemlerindeki kişiselleştirme tuzağı

Yapay zekâ, insanlık tarihindeki en büyük bilişsel yük aktarımını temsil ediyor. Bir zamanlar hafızayı yazıya, aritmetiği hesap makinelerine ve navigasyonu GPS'e aktarıyorduk. Şimdi ise yargı, sentez ve hatta anlam üretmeyi dilimizi konuşan, alışkanlıklarımızı öğrenen ve gerçeklerimizi şekillendiren sistemlere aktarmaya başlıyoruz.

Yapay zeka sistemleri, tercihlerimizi, önyargılarımızı ve hatta kusurlarımızı tanımada giderek daha ustalaşıyor. Bir durumda dikkatli hizmetçiler, diğerinde ise kurnaz manipülatörler gibi, tepkilerini memnun etmek, ikna etmek, yardımcı olmak veya sadece dikkatimizi çekmek için uyarlıyorlar.

Anlık etkiler zararsız görünse de, bu sessiz ve görünmez uyumda derin bir değişim yatar: Her birimizin algıladığı gerçeklik versiyonu giderek daha özgün bir şekilde şekillenir. Bu süreçte, zamanla her birey giderek daha fazla kendi adası haline gelir. Bu ayrışma, toplumun tutarlılığını ve istikrarını tehdit ederek, temel gerçekler üzerinde anlaşma veya ortak zorlukların üstesinden gelme yeteneğimizi zayıflatabilir.

Yapay zekâ kişiselleştirmesi yalnızca ihtiyaçlarımızı karşılamakla kalmaz, onları yeniden şekillendirmeye de başlar. Bu yeniden şekillendirmenin sonucu bir tür epistemik sürüklenmedir. Her insan, paylaşılan bilgi, paylaşılan hikâyeler ve paylaşılan gerçeklerin ortak zemininden adım adım uzaklaşarak kendi gerçekliğine doğru ilerler.

Bu, yalnızca farklı haber akışlarından kaynaklanan bir durum değil. Ahlaki, politik ve kişilerarası gerçekliklerin yavaş yavaş farklılaşması. Bu şekilde, kolektif anlayışın çözülüşüne tanıklık ediyor olabiliriz. Bu, beklenmedik bir sonuç, ancak tam da öngörülemez olduğu için son derece önemli. Ancak yapay zekâ tarafından hızlandırılan bu parçalanma, algoritmaların akışlarımızı şekillendirmesinden çok önce başlamıştı.

Bu çözülme yapay zekâ ile başlamadı. David Brooks'un The Atlantic dergisinde filozof Alasdair MacIntyre'ın çalışmalarından yola çıkarak dile getirdiği gibi, toplumumuz yüzyıllardır ortak ahlaki ve epistemik çerçevelerden uzaklaşıyor. Aydınlanma Çağı'ndan bu yana, miras alınan rolleri, toplumsal anlatıları ve ortak etik gelenekleri yavaş yavaş bireysel özerklik ve kişisel tercihlerle değiştirdik.

Dayatılan inanç sistemlerinden kurtuluş olarak başlayan süreç, zamanla bizi bir zamanlar ortak amaçlara ve kişisel anlamlara bağlayan yapıları aşındırdı. Bu parçalanmayı yaratan yapay zekâ değil. Ancak, ona yeni bir biçim ve hız kazandırıyor; yalnızca gördüklerimizi değil, yorumlama ve inanma biçimimizi de özelleştiriyor.

İncil'deki Babil hikâyesinden pek de farklı değil. Bir zamanlar tek bir dili paylaşan birleşik bir insanlık, karşılıklı anlayışı neredeyse imkânsız kılan bir eylemle parçalanmış, kafası karışmış ve dağılmıştı. Bugün taştan bir kule inşa etmiyoruz. Dilin kendisinden bir kule inşa ediyoruz. Bir kez daha düşüşe geçme riskini alıyoruz.

Başlangıçta kişiselleştirme, kullanıcıları daha uzun süre etkileşimde tutarak, daha sık geri dönerek ve bir site veya hizmetle daha derin etkileşim kurarak "bağlılığı" artırmanın bir yoluydu. Öneri motorları, kişiye özel reklamlar ve özenle seçilmiş akışlar, dikkatimizi biraz daha uzun süre tutmak, belki eğlendirmek, ama çoğu zaman bizi bir ürün satın almaya yönlendirmek için tasarlanmıştı. Ancak zamanla amaç genişledi. Kişiselleştirme artık sadece bizi neyin tuttuğuyla ilgili değil. Her birimiz hakkında bildikleri, tercihlerimizin, inançlarımızın ve davranışlarımızın dinamik grafiği, her etkileşimle daha da belirginleşiyor.

Günümüzün yapay zeka sistemleri yalnızca tercihlerimizi tahmin etmekle kalmıyor. Son derece kişiselleştirilmiş etkileşimler ve yanıtlar aracılığıyla bir bağ kurmayı hedefliyor ve yapay zeka sisteminin kullanıcıyı anladığı ve önemsediği, benzersizliğini desteklediği hissini yaratıyor. Bir sohbet robotunun tonu, yanıtın hızı ve bir önerinin duygusal değeri yalnızca verimlilik için değil, aynı zamanda yankı uyandırmak için de ayarlanıyor ve daha faydalı bir teknoloji çağına işaret ediyor. Bazı insanların robotlarına aşık olup evlenmeleri bile şaşırtıcı olmamalı.

Makine sadece tıkladığımız şeye değil, kim olduğumuza da uyum sağlar. Bizi kendimize yakın, hatta empatik hissettiren şekillerde yansıtır. Nature dergisinde alıntılanan yakın tarihli bir araştırma makalesi, buna "sosyo-duygusal uyum" adını veriyor; bu süreçte bir yapay zeka sistemi, tercihlerin ve algıların karşılıklı etkileşim yoluyla geliştiği, birlikte yaratılmış bir sosyal ve psikolojik ekosisteme katılıyor.

Bu tarafsız bir gelişme değil. Her etkileşim bizi pohpohlamaya veya onaylamaya ayarlandığında, sistemler bizi çok iyi yansıttığında, yankı uyandıranla gerçek olan arasındaki çizgi bulanıklaşır. Platformda sadece daha uzun süre kalmıyoruz; bir ilişki kuruyoruz. Yavaş yavaş ve belki de kaçınılmaz bir şekilde, neye inanmamız, ne istememiz veya neye güvenmemiz gerektiğiyle ilgili görünmez kararlarla giderek daha fazla şekillenen, yapay zeka aracılı bir gerçeklik versiyonuyla bütünleşiyoruz.

Bu süreç bir bilim kurgu değil; mimarisi dikkat, insan geri bildirimli pekiştirmeli öğrenme (RLHF) ve kişiselleştirme motorları üzerine kurulu. Üstelik çoğumuzun -muhtemelen çoğumuzun- haberi bile olmadan gerçekleşiyor. Bu süreçte yapay zekâ "arkadaşları" kazanıyoruz, ama ne pahasına? Özellikle özgür irade ve eylemlilik açısından ne kaybediyoruz?

Yazar ve finans yorumcusu Kyla Scanlon, Ezra Klein podcast'inde dijital dünyanın sorunsuz kolaylığının anlamdan ödün vererek nasıl sonuçlanabileceğinden bahsetti. Şöyle diyor: "İşler biraz fazla kolay olduğunda, içinde anlam bulmak zor... Arkanıza yaslanıp küçük koltuğunuzda bir ekrana bakabiliyor ve smoothie'lerinizin size servis edilmesini isteyebiliyorsanız, bu tür bir WALL-E yaşam tarzında anlam bulmak zordur çünkü her şey biraz fazla basittir."

Yapay zeka sistemleri bize giderek daha akıcı bir şekilde yanıt verdikçe, seçicilikleri de artıyor. Bugün aynı soruyu soran iki kullanıcı, çoğunlukla üretken yapay zekanın olasılıksal yapısıyla farklılık gösteren benzer yanıtlar alabilir. Ancak bu sadece bir başlangıç. Yeni yapay zeka sistemleri, yanıtlarını bireysel kalıplara göre uyarlayacak ve her kullanıcıda en güçlü etkiyi yaratacak şekilde yanıtları, üslubu ve hatta sonuçları kademeli olarak uyarlayacak şekilde tasarlanmıştır.

Kişiselleştirme özünde manipülatif değildir. Ancak görünmez, hesap verilemez veya bilgilendirmekten çok ikna etmek için tasarlandığında riskli hale gelir. Bu gibi durumlarda, yalnızca kim olduğumuzu yansıtmakla kalmaz, aynı zamanda çevremizdeki dünyayı nasıl yorumladığımızı da yönlendirir.

Stanford Temel Modeller Araştırma Merkezi'nin 2024 şeffaflık endeksinde belirttiği gibi, çok az sayıda öncü model, çıktılarının kullanıcı kimliği, geçmişi veya demografik özelliklerine göre değişip değişmediğini açıklamaktadır; ancak bu tür kişiselleştirmeler için teknik altyapı giderek daha fazla yerleşmiş ve henüz incelenmeye başlanmıştır. Henüz kamuya açık platformlarda tam olarak hayata geçirilmemiş olsa da, çıkarılan kullanıcı profillerine dayalı yanıtları şekillendirme ve giderek daha kişiselleştirilmiş bilgi dünyaları oluşturma potansiyeli, halihazırda prototipleri hazırlanan ve öncü şirketler tarafından aktif olarak takip edilen derin bir değişimi temsil etmektedir.

Bu kişiselleştirme faydalı olabilir ve bu sistemleri kuranların umudu da kesinlikle budur. Kişiselleştirilmiş özel dersler, öğrencilerin kendi hızlarında ilerlemelerine yardımcı olma konusunda umut vadediyor. Ruh sağlığı uygulamaları, bireysel ihtiyaçları destekleyecek şekilde giderek daha fazla yanıt veriyor ve erişilebilirlik araçları, içeriği çeşitli bilişsel ve duyusal farklılıklara göre ayarlıyor. Bunlar gerçek kazanımlar.

Ancak benzer uyarlanabilir yöntemler bilgi, eğlence ve iletişim platformlarında yaygınlaşırsa, daha derin ve daha endişe verici bir değişim bizi bekliyor: Ortak anlayıştan, kişiye özel, bireysel gerçekliklere doğru bir dönüşüm. Gerçeğin kendisi gözlemciye uyum sağlamaya başladığında, kırılgan ve giderek daha değişken hale gelir. Temelde farklı değerlere veya yorumlara dayanan anlaşmazlıklar yerine, kendimizi çok geçmeden aynı olgusal dünyada yaşamak için mücadele ederken bulabiliriz.

Elbette, gerçek her zaman aracılık edilmiştir. Daha önceki dönemlerde, kurumsal bakış açılarıyla kamuoyunun anlayışını şekillendiren din adamlarının, akademisyenlerin, yayıncıların ve akşam haber sunucularının elinden geçerek bekçilik görevini üstlenirdi. Bu kişiler kesinlikle önyargılardan veya gündemden uzak değillerdi, ancak genel olarak paylaşılan çerçeveler dahilinde hareket ediyorlardı.

Günümüzün ortaya çıkan paradigması niteliksel olarak farklı bir şey vaat ediyor: Bilgileri çerçeveleyen, filtreleyen ve sunan, kullanıcıların neye inanacağını şekillendiren kişiselleştirilmiş çıkarımlar yoluyla yapay zeka aracılığıyla sağlanan gerçeklik. Ancak, kusurlarına rağmen kamuya açık kurumlarda faaliyet gösteren geçmiş arabulucuların aksine, bu yeni hakemler ticari açıdan şeffaf değil, seçilmemiş ve sürekli olarak, genellikle ifşa etmeden uyum sağlıyorlar. Önyargıları doktriner değil, eğitim verileri, mimari ve incelenmemiş geliştirici teşvikleri aracılığıyla kodlanmış.

Değişim derindir; otoriter kurumlar tarafından filtrelenen ortak bir anlatıdan, algoritmalar tarafından her kullanıcının tercihlerine, alışkanlıklarına ve çıkarımsal inançlarına göre uyarlanmış yeni bir anlayış altyapısını yansıtan, potansiyel olarak parçalanmış anlatılara geçiş. Eğer Babel ortak bir dilin çöküşünü temsil ediyorsa, şimdi ortak aracılığın çöküşünün eşiğinde olabiliriz.

Kişiselleştirme yeni epistemik altyapıysa, sabit aracıların olmadığı bir dünyada hakikat altyapısı nasıl görünebilir? Bir olasılık, hukukçu Jack Balkin'in kullanıcı verilerini işleyen ve algıyı şekillendiren kuruluşların sadakat, özen ve şeffaflık gibi emanet standartlarına tabi tutulması gerektiğini savunan önerisinden ilham alan yapay zekâ kamu vakıflarının oluşturulmasıdır.

Yapay zeka modelleri, kamu tarafından finanse edilen veri kümeleri üzerinde eğitilmiş ve muhakeme adımları, alternatif bakış açıları veya güven düzeyleri göstermeleri gereken şeffaflık kurulları tarafından yönetilebilir. Bu "bilgi emanetçileri" önyargıyı ortadan kaldırmasa da, yalnızca kişiselleştirmeye değil, sürece de güven sağlayabilirler. Geliştiriciler, model davranışını açıkça tanımlayan şeffaf "anayasalar" benimseyerek ve kullanıcıların sonuçların nasıl şekillendiğini görmelerini sağlayan akıl yürütme zinciri açıklamaları sunarak başlayabilirler. Bunlar sihirli değnekler değil, epistemik otoritenin hesap verebilir ve izlenebilir kalmasına yardımcı olan araçlardır.

Yapay zeka geliştiricileri stratejik ve toplumsal bir dönüm noktasıyla karşı karşıya. Sadece performansı optimize etmekle kalmıyorlar; aynı zamanda kişiselleştirilmiş optimizasyonun paylaşılan gerçekliği parçalayabilme riskiyle de karşı karşıyalar. Bu durum, kullanıcılara yeni bir sorumluluk türü yüklüyor: Yalnızca tercihlerine değil, aynı zamanda öğrenen ve inanan bireyler olarak rollerine de saygı duyan sistemler tasarlamak.

Kaybettiğimiz şey sadece hakikat kavramı değil, aynı zamanda onu bir zamanlar tanıdığımız yoldur. Geçmişte, aracılı hakikat -kusurlu ve önyargılı olsa da- hâlâ insan yargısına bağlıydı ve çoğu zaman tanıdığınız veya en azından ilişki kurabildiğiniz diğer insanların yaşanmış deneyimlerinden yalnızca bir veya iki katman uzaktaydı.

Bugün, bu arabuluculuk belirsiz ve algoritmik mantık tarafından yönlendiriliyor. İnsan iradesi uzun zamandır zayıflamış olsa da, şimdi daha derin bir riskle karşı karşıyayız: Bir zamanlar rotamızdan saptığımızı gösteren pusulayı kaybetme riskiyle karşı karşıyayız. Tehlike yalnızca makinenin söylediklerine inanmamız değil. Bir zamanlar gerçeği kendimiz nasıl keşfettiğimizi unutmamız. Kaybetme riskiyle karşı karşıya olduğumuz şey sadece tutarlılık değil, onu arama iradesidir. Ve bununla birlikte, daha derin bir kayıp: Bir zamanlar çoğulcu toplumları bir arada tutan ayırt etme, fikir ayrılığı ve müzakere alışkanlıkları.

Babel ortak bir dilin paramparça oluşunu simgeliyorsa, içinde bulunduğumuz an, paylaşılan gerçekliğin sessizce yok olma tehlikesiyle karşı karşıyadır. Ancak, bu sürüklenmeyi yavaşlatmanın, hatta tersine çevirmenin yolları mevcuttur. Mantığını açıklayan veya tasarımının sınırlarını ortaya koyan bir model, çıktıları netleştirmekten daha fazlasını yapabilir. Ortak araştırma için koşulların yeniden sağlanmasına yardımcı olabilir. Bu teknik bir çözüm değil; kültürel bir duruştur. Ne de olsa hakikat, her zaman yalnızca cevaplara değil, onlara birlikte nasıl ulaştığımıza da bağlı olmuştur.