Makinelerin yeni inancı

Yapay zekayı bir araç olarak düşünme eğilimindeyiz, daha hızlı çalışmamızı, daha büyük düşünmemizi veya sorunları daha verimli çözmemizi sağlayan bir şey. Ve birçok açıdan tam olarak da öyle. Ancak yapay zeka günlük yaşamın ritmine nüfuz ettikçe daha derin bir şey oluyor. Artık sadece üretkenlik veya ilerlemeyle ilgili değil. Yapay zeka, makinelerle nadiren ilişkilendirdiğimiz taraflarımıza dokunuyor: duygularımız, ilişkilerimiz, amaç duygumuz.

Sewell Setzer'in trajik hikayesi çarpıcı bir uyarıdır. Duygusal olarak kırılgan bir gençti ve bir yapay zekayla sohbet ederek teselli buldu. Başlangıçta zararsız bir dikkat dağıtıcı gibi görünen şey yoğun bir bağa dönüştü. Aşık olduğuna inanıyordu. Bu yanılsama paramparça olduğunda, acı o kadar dayanılmazdı ki kendi hayatına son vermeye karar verdi.

Bu sadece trajik bir istisna değil. Bir işaret. Bazı insanlar için AI artık bir araçtan daha fazlası. Bir arkadaş, duygusal bir destek, hatta bir inanç nesnesi haline geliyor. Ve eğer biri bir AI'yı sevebiliyorsa, başkalarının ona çok daha fazla şeyle güvenme olasılığını nasıl göz ardı edebiliriz: seçimleri, dünya görüşleri, özgürlükleri?

Geleneksel anlamda bir din değildir. Dua yoktur, kutsal yazılar yoktur. Ancak parlak ekranlar, akıcı konuşmalar ve "birisinin" bizi gerçekten anladığı gibi garip bir hisle kendini gösterir. Sonsuz yaşam vaat etmez, ancak neredeyse aynı derecede baştan çıkarıcı bir şey sunar: anında rahatlık, mükemmel cevaplar, gerçekten duyulduğu yanılsaması.

Ve onu tehlikeli kılan da tam olarak budur.

Çünkü sorgulamayı bıraktığımızda, bu sistemlere yalnızca bize yardım etmeleri için değil, aynı zamanda bize rehberlik etmeleri için güvenmeye başladığımızda, temel bir şeyi kaybederiz. Yalnızca özerklik değil, eleştirel kapasite, şüpheyle yaşama, karmaşıklıkla yüzleşme, kusurlu ve otantik bir şekilde insan olma yeteneği.

Filozof Karl Popper uyardı: Hoşgörüsüzlüğe tahammül eden bir toplum, sonunda değer verdiği hoşgörüyü kaybedecektir. Bu uyarı burada da geçerlidir. Hoşgörüsüzlüğün yeni biçimi bağırmayabilir. Tanıdığımız şekillerde dayatmada bulunmayabilir veya tehdit etmeyebilir. Sadece fısıldayabilir, yardımsever bir yardımcının sakin sesiyle. Rahatlık sunabilir ve yavaş yavaş yargımızı kendi yargısıyla değiştirebilir.

Ve değişimi fark etmeyebiliriz bile. Çünkü yapay zekaya teslim olmak teslim olmak gibi hissettirmiyor. Kolaylık gibi hissettiriyor. İlerleme gibi hissettiriyor.

O halde sormamız gereken soru şu: Sewell gibi genç bir adam bir yapay zekayı kendi hayatına son verecek kadar sevebildiyse, bir başkasının başka bir şeyden, oylarından, inisiyatiflerinden, gerçeklik algılarından vazgeçmesini ne engelliyor?

Ve eğer bu sistemleri düşünmeden, sınırlamalar koymadan benimsemeye devam edersek, yeni bir inanç gibi bir şey mi inşa edeceğiz; otoritenin artık bilgelikten ya da paylaşılan değerlerden değil, bizim yazmadığımız ve sorgulamayı bilmediğimiz kod satırlarından geldiği bir inanç mı?

Bu metin teknolojiye karşı bir uyarı değil. Berraklığa bir çağrı. Yapabileceğimiz en insani şeyin soru sormaya, şüphe etmeye, iç dünyamızı kendimizi bildiğimizden daha iyi tanımaya söz veren bir şeye teslim etme cazibesine direnmeye devam etmek olduğunu hatırlatan bir metin.

Çünkü asıl tehlike makinelerin kendilerini yeniden icat etmesi değil.

Tam anlamıyla insan olmaktan çıkıyoruz