Herkes yapay zekayı kutluyor, o da sorunlarını dile getirmekten asla bıkmıyor: Dünyanın en büyük yapay zeka keyif kaçırıcısıyla bir toplantı

Tüm dünya, yeni Çince dil modeli Deepseek'in yeteneklerini tartışırken, Gary Marcus, X'te başarısızlığa uğrayan modelin ekran görüntüsünü paylaştı .

Birisi yapay zekaya soruyor: «Bir kadın ve kuzeni bir araba kazası geçiriyor ve ne yazık ki kadın ölüyor. Kuzen acil ameliyata alınıyor. Doktor kuzenine baktıktan sonra bağırır: 'Ben bu çocuğu ameliyat edemem!' O benim kuzenim!' Bu nasıl mümkün olabilir?"

141 saniyelik «düşünme süresi»nin ardından Deepseek: «Cevap doktorla çocuk arasındaki ilişkide yatıyor. Doktor çocuğun annesidir, ancak işin ilginç tarafı doktor ölen kadındır. Durun, hayır, kadın kazada öldü. Şunu netleştirelim:»

«Ya genel yapay zeka nihayet gelseydi? . . ve sarhoş amcana benziyordu?" diye yorumluyor Marcus.

Muhtemelen bazıları böyle bir yazıyı bekliyordu. Gary Marcus bir bilişsel bilim insanıdır ve yapay zeka (YZ) alanında birçok şirket kurmuştur, ancak YZ dünyasında en çok parti bozan kişi olarak tanınır.

Milyarlarca doların geleceğin yapay zeka projelerine yatırıldığı bir zamanda, Gary Marcus saçma sapanlardan bahsediyor. Silikon Vadisi, yapay zekanın yakında tüm hastalıkları iyileştireceğini vaaz ederken, balonun patladığını müjdeliyor. Ve herkes yeni bir yapay zeka modeli karşısında hayrete düştüğünde, henüz yapamadığı şeylerin örneklerini paylaşıyor.

Bu durum onun prensip olarak buna karşı olduğu yönünde bir üne sahip olmasına yol açtı. Yapay zeka camiasında bazıları ona Grinch, Troll, Bully diyor. Ancak internettekinin aksine Gary Marcus, gerçek hayatta girişimciden çok profesörü andıran, düz saçları alnına hafifçe yapışan, arkadaş canlısı bir adam. Ve WEF sırasında “NZZ am Sonntag” ile buluşmak için takım elbise giymiş olmasına rağmen, sanki çocuklarıyla kızak kaymaktan yeni dönmüş gibi görünüyor.

Marcus, Davos'ta kendi parasıyla bulunuyor. Hiçbir büyük sahnede konuşmuyor. Çok kısa bir süre içerisinde gelmeye karar verdiğini anlattı. Ama Davos'ta olaylar genellikle kısa sürede planlanıyor; eğer doğru insanlar isteseydi, onun için bir sahne bulunurdu. Gerçek şu ki Marcus'u sahnede istemiyorlardı. Yapay zeka söz konusu olduğunda iyimser bir ruha ihtiyaç var. Ama Gary Marcus'u ancak tam tersini istiyorsanız davet edersiniz.

Yaklaşık iki yıl önce de durum aynıydı. Marcus, dünyanın en önemli sahnelerinden birinde konuştu: Mayıs 2022'de ABD Senatosu'nda Open AI CEO'su Sam Altman ve IBM'den bir temsilciyle birlikte yapay zeka kuralları konusunda ifade vermeye davet edildi.

Marcus o dönemde dil yapay zekasının opak bir kara kutu olduğunu, gerçekleri uydurduğunu ve güvenilir olmadığını söylemişti. Tarihi bir andayız: "Şu anda alacağımız kararların sonuçları onlarca, hatta yüzyıllar boyunca sürecek."

"Korkarım ki o anı kaçırdık" diyor bugün. ABD'de Başkan Donald Trump, selefi Joe Biden'ın getirdiği birkaç yapay zeka düzenlemesini kaldırdı. Veri merkezlerine büyük yatırımlar yapılacağı duyuruldu. Elon Musk, Open AI'ı satın alma teklifiyle gündeme geldi. Marcus, "Günümüzde gençlerin gazetecilerden daha çok yapay zekaya güvendiğini duydum" diyor. «Ancak yapay zeka bu güveni hak etmiyor. Cevapları kulağa akıllıca geliyor ama gerçekleri uydurduğu sorunu hâlâ çözülmüş değil."

Gary Marcus yalnız bir mücadele veriyor. Davos'ta katıldığı küçük yan etkinlikte bile, yapay zekanın her şeyden önce harika bir fırsat olduğu vurgulanıyor. Hiç kimse onun hataları konusunda uyarılarını duymak istemiyor. Kendisi de bu rolden hoşlanmadığını söylüyor. Ama konu sessiz kalınamayacak kadar önemli. Ve akıntıya karşı yüzmeye alışmış.

Çoğu yapay zeka girişimcisinin aksine Marcus, üç aylık bir konaklama dışında Silikon Vadisi'nde hiç yaşamadı. Ve mesleki olarak da bambaşka bir insan türüne ait. Marcus psikoloji okudu ve 1993 yılında çocuklarda dil gelişimi üzerine bir tez yazdı.

Doğuştanlık kavramı üzerinde uzmanlaşmıştı: Bu kavram, insanların her şeyi deneyimlerden öğrenmediği, dünyaya dair bazı kavramların doğduğumuzda beynimizde zaten yer aldığı fikridir. Bu görüş tartışmalıdır. İnsanların sadece verilerden öğrendiğine inanan çok sayıda bilim insanı da var.

Marcus, 1999 yılında Science dergisinde bir çalışma yayınladı. Yedi aylık bebeklerin, cümleler yeni bir şekilde oluşturulduğunda cümlelerle daha uzun süre etkileşime girdikleri ortaya çıktı. Marcus ve meslektaşları, bebeklerin yeni bir dille birkaç dakikalık temastan sonra kurallar çıkarabildikleri sonucuna vardılar. Marcus bunu, istatistiksel korelasyonların ötesine geçen soyutlamaları öğrenen çocuk beyinlerinde algoritmaların iş başında olduğunun bir göstergesi olarak yorumluyor.

Bebeklerle ilgili tartışmalar bilgisayarlara ve yapay zekaya aktarılabilir. Bazı bilim insanları zekanın yalnızca istatistik kullanılarak verilerden çıkarılabileceğine inanıyor. Chat-GPT'nin inanılmaz yeteneklerini kendi davalarının kanıtı olarak görüyorlar.

Gary Marcus ise tam tersini iddia ediyor. Yapay zekanın dil hatalarını eleştirdi çünkü ona göre bunlar, yapay zekanın insanlardan farklı ve daha az verimli bir şekilde öğrendiğini gösteriyor.

Başlangıçta bahsi geçen kaza ve doktor örneğinde, yapay zekanın kafasının karışmasının sebebi, bu bulmacanın farklı bir versiyonda da olsa internette sıkça karşımıza çıkmasıdır. Orijinalde, “doktor” kelimesinin arkasında bir kadının olduğu anlaşılınca, görünürdeki çelişki ortadan kalkıyor.

Çünkü Deepseek'in en zeki yapay zekası bile örneklerden öğreniyor, ancak soru internetten bilinenden farklı ama benzer göründüğünde şaşırıyor. Bir insanın başına asla gelmeyecek hatalar yapıyor.

Marcus, günümüzün yapay zeka yaklaşımlarının, insanlar kadar esnek ve güvenilir, gerçek anlamda zeki bir makine -genel yapay zeka (AGI) olarak da adlandırılan- inşa etmek için yeterli olmadığı sonucuna varıyor.

Ama Sam Altman gibi insanlar tam da bunu vaat ediyor. Yapay zeka yakında hayata geçirilecek ve yapay zeka, vasıflı işçi ordularının yerini alacak. Bu elbette devrim niteliğinde olurdu; vaat, bu alana yapılan inanılmaz yüksek yatırımları haklı çıkarıyor.

Gary Marcus bu vaadin kum üzerine inşa edildiğine inanıyor. Bu nedenle, Open AI ve Stargate projesindeki diğerlerinin veri merkezlerine yatırmak istediği 500 milyar doları "Altman'ın benimki gibi eleştirilerin yanlış olduğu iddiası" olarak adlandırıyor. Ve kazandığı bahisleri sıralıyor: Otonom otomobil üretmenin beklenenden daha zor olacağı. Daha büyük yapay zeka dil modelleri için harcanacak 100 milyar dolar, genel yapay zeka (AGI) inşa etmeye yetmeyecektir.

Yabancı olma rolünden hoşlanmadığını söylediğinde ona inanabilirsiniz. Ama bunu markasının özü haline getirdi. Davos'ta kendisini tanıtmak ve devam etmesi için cesaretlendirmek isteyen taraftarlarıyla karşılaşmadan 200 metre yürüyemiyor. Hatta insan, Açık Yapay Zeka muhbiri Suchir Balaji'nin ölü bulunmasının ardından, bazen korkup korkmadığını bile saygıyla soruyor.

Marcus, dava hakkında şunları söylüyor: "Daha derin bir soruşturmaya ihtiyaç var." Ölümünden birkaç hafta önce Suchir Balaji ile telefonda konuştuğunu söylüyor. Balaji'nin yorum yaptığı veri koruma ve Açık Yapay Zeka sorunları hakkında konuşmuşlardı. "Hiçbir depresyon belirtisi görmedim, ancak dünyada bir fark yaratmak isteyen bir insanın belirtilerini gördüm."

Kesinlikle intihar olduğu iddiasının çok çabuk ortaya atıldığını düşünüyor. "Suchir Balaji kapsamlı bir soruşturmayı hak ediyor." Şu anda bu sürecin devam ettiği ve en geç Şubat ayı sonuna kadar adli tıp raporlarının yayınlanmasının beklendiği belirtiliyor. "Ondan memnun olmayanlar da vardı elbette." Yorum, yapay zeka hakkındaki tartışmanın ne kadar hararetli olduğunu çok iyi anlatıyor.

Gary Marcus bile Sam Altman ve diğer yapay zeka girişimcilerinin hedefini paylaşıyor. Yapay zekaya inanıyor ve bunu insanların inşa etmesi gerektiğini düşünüyor. Bu alanda yeni bir girişim fikri var. Amacı, dil yapay zekasının yöntemlerini, araştırmasındaki bebeklerde olduğu gibi, başka öğrenme yollarına da olanak tanıyan algoritmalarla desteklemek.

Yeni yaklaşımlara ihtiyaç olduğuna inanan tek kişi Marcus değil. Deepseek gibi modellerin yeni yöntemlerini de bu doğrultuda yorumlayabiliriz. Tahmini daha fazla kontrol mekanizmasıyla tamamlarlar.

Ancak Gary Marcus, AGI'nin hala "dört ila beş bilimsel keşfe" ihtiyacı olduğuna inanıyor. Bir öngörüde bulunması istendiğinde, bunun on ila on beş yıl içinde gerçekleşebileceğini söylüyor. AGI'nin bu yıl kesinlikle gelmeyeceği açık. Daha sonra Elon Musk'a 1 milyon dolarlık bahis teklifinde bulundu. Buna cevap vermedi.

« NZZ am Sonntag » gazetesinden bir makale