Teknoloji-engellilik | Çekinceli algoritma

Çevrimiçi perakendeci Amazon'dan, siyahi insanları beyazlardan daha az etkili bir şekilde tanımlayan çarpık bir otomatik yüz tanıma sistemi. Kredi kararlarını vermek için yapay zeka kullanan bir ABD finans şirketi aniden kadınlara daha az kredi vermeye başlıyor. Yapay zekanın ayrımcılıktan muaf olmadığı iyi biliniyor. Algoritması tek taraflı verilere dayanıyor ve önyargılı sonuçlar sunuyor.

Bu, metni tanıyıp üretebilen ve büyük miktarda veriye dayanan Büyük Dil Modelleri'nde (LLM'ler) de belirgindir. Chat-GPT gibi uygulamalar bunlara dayanmaktadır. Bu arada, giderek daha fazla yardımcı teknoloji de LLM'lerle çalışmaktadır. Bunlar iletişim seçeneklerini genişletmeyi ve erişilebilirliği iyileştirmeyi amaçlamaktadır.

Örneğin, "Be my eyes" yazılımı, görüntüleri veya metni ses dosyalarına dönüştürmek için GPT-4 kullanır. Bu uygulamalar önyargı açısından incelenmezse, Zürih Üniversitesi'nden bir araştırma ekibi geçen yıl bunun tam tersi bir etkiye sahip olabileceğini keşfetti. Program daha sonra "engelli insanlara karşı daha az destekleyici veya hatta ayrımcı bir şekilde davranan ve engelli insanları daha fazla marjinalleştirerek ve tehlikeye atarak yardımcı teknolojilerin amacını baltalayan" çıktılar üretiyor, diye uyarıyor Rong Li, Ashwini Kamaraj, Jing Ma ve Sarah Ebling.

"Önyargı, teknolojinin kendisi kadar hızlı gelişen devam eden bir sorundur."

Rong Li, Ashwini Kamaraj, Jing Ma ve Zürih Sarah Ebling Üniversitesi

Özellikle büyük veri kümeleri bunu kendiliğinden değiştirmez. Bu nedenle araştırmacılar , diğer ayrımcılık biçimleriyle etkileşimlerine, yani kesişimselliklerine dikkat ederek, bireysel dil modellerini sürekli olarak önyargı açısından incelemeyi savunuyorlar. "Önyargı, teknolojinin kendisi kadar hızlı gelişen devam eden bir zorluktur," sonucuna varıyorlar.

Alman Etik Konseyi'nden Ute Kalender, dijitalleşme ve yapay zeka üzerine kesişimsel bakış açıları araştırıyor. Çalışmalarına göre, engelli insanların sözde çıkarları düzenli olarak yapay zekayı sosyal olarak güçlendirmek için kullanılıyor. Ancak, geliştirme pratiğinde, teknoloji "özerk, engelli olmayan, (hiper-)beyaz bir insanın androsantrik idealiyle kazınmaya devam ediyor" diye yazıyor bir makalede.

"Genel olarak, AI tabanlı dijital mimarilere engelli kişiler için erişim, normal olduğu varsayılan kişilere göre daha zordur," diye açıklıyor Kalender "nd."ye. Bu "dijital mimarilere olan sürtünmeli erişim" çeşitli düzeylerde bir etkiye sahip olabilir. Engelli kişilerin dünyadaki en fakir gruplar arasında yer aldığı dijital-sosyal uçurum düzeyinde. AI uygulamalarını çalıştıran cihazlar ve akıllı evlerde veya AI tabanlı arabalarda kullanılan AI sistemleri pahalıdır ve bu nedenle çoğu zaman karşılanamaz.

Ek olarak, programlar ve kullanıcı arayüzleri genellikle erişilebilir değildir. Bu, örneğin görme engelli kişiler için görselleri tanımlamayı amaçlayan alt metinlerin eksikliğinde, açık arka planlarda açık yazı tiplerinin kullanımında, karmaşık cümlelerde, web sitelerinde sınırlı gezinme seçeneklerinde ve sorunlu hızlarda belirgindir. Dahası, özellikle sosyal medyada temsil genellikle normalliğin basmakalıp kavramlarına dayanmaktadır. Örneğin, 2019'da TikTok video portalı, moderatörlerinin engelli kişilerin görsellerini açıkça filtrelemesini sağladı.

Teknoloji ve akıllı yazılımda engellilere yönelik ayrımcılığın çarpıcı bir örneği otonom araçlardır. Bilim insanı Jutta Treviranus, otonom araçların tekerlekli sandalyede geri giden bir kişiye nasıl tepki vereceğini araştırdı: Kişinin üzerinden geçeceklerdi. Treviranus daha sonra programı, tekerlekli sandalyede geri giden kişilerle ilgili daha fazla veri besleyerek eğitti. Ancak yazılım ne kadar fazla veri alırsa, aracın kişinin üzerinden geçme olasılığı o kadar yüksekti. Açıklama: Yapay zeka, istatistiksel modellere dayandığında aykırı değerleri ortadan kaldırır. Bu tür tehlikeli ayrımcılığı önlemek için yalnızca farklı veya daha büyük veri kümelerine değil, aynı zamanda daha çeşitli temellere ve istatistiksel modellere de ihtiyaç vardır.

Kalender bu nedenle bütüncül bir yaklaşım savunuyor. LLM'lerin gelecekte gerçekten kapsayıcı olması için, daha çeşitli gruplardan insanlar tarafından inşa edilmeleri ve çeşitli öğrenme örnekleriyle eğitilmeleri gerekir. "Ancak bu, yapay zekanın toplumu tarafsız bir şekilde temsil edebileceği veya çeşitliliğine adalet sağlayabileceği inancını yine de pekiştirecektir," diye belirtiyor.