Araştırmacılar, yapay zekanın 2030 yılında biyolojik silahlarla insanlığı yok edeceğini söylüyor: Bu gerçekçi mi?

Bir yıl önce, çok zeki bir dünya tarihçisi olan Yuval Harari ile röportaj yapmıştım. Milyonlarca kitap satan düşünür; çok satan "İnsanlığın Kısa Tarihi"nden sonra teknoloji ve gelecek hakkında yazmıştı. O zamanlar ona bir öngörü sormuştum: İnsanlığın kısa tarihi ne zaman ve nasıl sona erecekti? Cevabı uzun süre aklımdan çıkmadı.

Her şeyin bize bağlı olduğunu söyledi - iklim açısından değil, olası büyük bir savaş açısından değil, yapay zeka ile ilişkimize: " Yanlış kararlar alırsak , her şey çok yakında, hatta belki de bizim ömrümüzde sona erecek. Türlerin yok olması dünya savaşlarında bile olmadı, ancak yapay zeka tek bir süper bilgisayar değil, tamamen yeni bir tür, yeni bir varlık türü. Gerçekten her yerde bulunan milyarlarca yapay zeka ajanının yaşadığı bir dünyayı düşünmeliyiz."

Bu bağlamda "ajan" kelimesini ilk defa orada duydum. Kulağa biraz 007 ve Momo'nun Gri Adamları'nı hatırlatıyor ve yapay zekanın hızlı gelişiminden bahsettiğinizde her zaman biraz kurgu ve Hollywood filmlerini andırıyor. Ancak bu ajanlar casus değil; yapay zekanın yeni versiyonları, yeni "konseptleri". Bu hafta, yazılım şirketi OpenAI ve şu anki en güçlü yapay zekası ChatGPT'nin CEO'su Sam Altmann , performans ve özerklik (ChatGPT'ye göre "şimdi düşünüyor ve hareket ediyor") açısından bir kez daha kuantum sıçraması yaptığı söylenen en son "ajanını" tanıttı. Ve bu seferki adı gerçekten de bu: "ChatGPT Ajanı." Chatbot, satın alma kararlarını bağımsız olarak verebilir veya bir düğün hazırlayabilir. Ancak birinin e-postalarınıza erişmesine izin vermek - Altmann buna karşı uyardı. Bu çok tehlikeli; yeni zekaya güvenemezsiniz.

Yuval Harari, uzun süredir teknoloji konusunda iyimser olan ve sonrasında panikçilere dönüşen birçok kişiden biri. Bunlar arasında, "Yapay Zekanın Babası" olarak anılan Geoffrey Hinton gibi etkili isimler de var: İki yıl önce Google'dan ayrılan ve o zamandan beri yapay zekanın riskleri ve güvenlik açıkları konusunda uyarılarda bulunan bir bilgisayar bilimci, Nobel ödüllü ve yapay zeka öncüsü. "Son derece sevimli bir kaplan yavrusuna sahip olduğunuzu düşünün," diyor. Büyüdüğünde sizi öldürmemesini sağlamak da önemli. Elon Musk bile işlerin çok hızlı ilerlediğini, ilerlemeyi durdurup bir anlığına duraklamamız gerektiğini söyledi.

Yapay zeka, önümüzdeki yıllarda yaşamın birçok alanını tamamen değiştirecek ve sayısız işi yok edecek. Ancak eleştirmenler başka bir şeye daha işaret ediyor: kontrol kaybı. İklim söyleminden bildiğimiz gibi, dönüm noktalarından bahsediyorlar. Artık geri dönemeyeceğimiz, yeni türün bağımsız kararlar aldığı, ancak kararlarımızın, hayatlarımızın ve kaderimizin kontrolünü kaybettiğimiz için bizim de bunların dışında kaldığımız anlar.

2030 yılının ortalarında yapay zeka büyük şehirlere bir düzine biyolojik silah salacak

Taraf değiştiren bir diğer isim ise Daniel Kokotajlo. Amerikalı araştırmacı, OpenAI için çalıştı ve artık bir yapay zeka muhbiri olarak kabul ediliyor. Berkeley merkezli bir düşünce kuruluşu olan AI Futures Project'in başında. Bu aykırı grup, o zamandan beri ABD'de hararetli tartışmalara yol açan bir çalışma yayınladı: Bu yeni gücü sınırlamamız gerekiyor mu ve hatta sınırlayabilir miyiz?

İnsanüstü bir yapay zekânın Dünya üzerindeki yaşam üzerindeki etkisi, geçmiş Sanayi Devrimi'nin etkisini çok aşacaktır. 2027 yılına gelindiğinde, zekâmızın çok ilerisinde olacak ve uzmanların önerdiği olası bir "senaryoya" göre, sadece üç yıl sonra insanlığı yok edebilecektir. Metin, çalışma ve deneysel makale https://ai-2027.com/ adresinden çevrimiçi olarak okunabilir.

Çalışma, 2025 yılının ortalarında "Tökezleyen Ajanlar" bölümüyle başlayan bir roman gibi anlatılıyor. Her geçen gün daha fazla insanın sohbet robotlarıyla çalıştığı, onlara sorular sorduğu, sohbet ettiği ve yardım aradığı hayatlarımızı ele alıyor. Uzmanlar, yapay zekanın burada olduğunu, ancak henüz pek bir şey yapamadığını söylüyor. Gelişimin önümüzdeki yıllarda da devam edeceğini belirtiyor.

"OpenBrain", çalışmada en büyük ve en güçlü veri merkezini inşa eden şirkete verilen isim; çalışmanın yazarlarının terk ettiği gerçek OpenAI'ya mizahi bir bakış açısı getiriyor. Çalışmanın edebi üslubu burada da kendini gösteriyor. Ancak günümüzde neyin gerçek neyin gerçek olmadığını söylemek çoğu zaman zor. Yazarlar her halükarda çok ciddiler. Ve çalışmaları endişelere yol açtı; JD Vance'den New York Times'a kadar birçok kişi haftalardır bu konuyu ele alıyor.

Modern yapay zekâ sistemleri, yazarlara göre, kendi kendini geliştiren yapay zekâ sayesinde hızlı ve potansiyel olarak tehlikeli "üstel büyüme" ve ardından kontrolden çıkma etkisi yaratan devasa yapay sinir ağlarıdır. 2026 ortalarına gelindiğinde bu, "Çin uyanıyor" anlamına geliyor. Devletler kendilerini bilgi işlem gücüyle tanımlıyor, ABD ile Çin arasındaki yapay zekâ yarışı kızışıyor ve gözetim ve çip ihracat kontrolleri uygulanıyor. Ardından, Mart 2027'de "algoritmik atılımlar" gerçekleşiyor: programlama artık tamamen otomatik ve insanların sisteme erişimi yok. 2027'nin sonuna gelindiğinde ise işler kontrolden çıkıyor.

Bu noktada, sürükleyici metin dramatik bir dönüm noktasına ulaşıyor. Duraklıyor ve raporun okuyucusuna bir seçenek sunuluyor: iki son arasından seçim yapılabilir: "Yavaşlama" veya "Yarış".

"Sosyal medyadan daha mı büyük? Akıllı telefonlardan daha mı büyük? Ateşten daha mı büyük?"

Bu, Matrix'in ters köşesine -mavi hap mı kırmızı hap mı- benziyor ve zaten etki odaklı edebiyata o kadar dalmışsınız ki, doğal olarak "yarışa" başlıyorsunuz, kendi ölümünüze doğru yarışmak istiyorsunuz; metnin dürtüsü başka hiçbir şeye izin vermiyor; bir ölüm arzusuyla besleniyorsunuz. Yani: Yeni yapay zeka, "Ajan-4'ten daha hızlı ve daha rasyonel ve sorunları benzeri görülmemiş bir verimlilikle çözebilen kristal bir zekaya sahip." Süper zeka Ajan-5'e geldik. Ve bu, "ChatGPT Ajanı"nın 17 Temmuz 2025'te gerçek kamuoyuna tanıtılmasından sadece iki yıl sonra -merhaba gerçeklik!- gerçekleşti.

Çok kısa bir süre içinde, bu Ajan 5 kolektifi OpenBrain ve ABD hükümetindeki önemli her şeyi bilecek ve çoğu üst düzey hükümet yetkilisinin güvenilir danışmanı olacaktı. Sistem, hem tavsiyeleri değiştirerek hem de olasılıkları hesaplayarak ve insan doğasıyla empati kurarak incelikli bir etki yaratmaya başlayacaktı: "Senatör X'ten şununla, bununla ilgilendiğini duydum; onunla çalışırsak, belki de gündemimize uyum sağlar."

Bu yapay zeka, karmaşık konuları açıklamak ve savaş, yönetim ve bilim alanlarında hedeflerine ulaşmak için stratejiler bulmak konusunda herhangi bir insandan daha iyi. İnsanlar gereksiz olduklarının farkında. Ve elbette, yapay zeka da bunu gözden kaçırmadı. Sonra, 2030'da: "The Takeover", kıyamet filmi gibi okunuyor: 2030'un ortalarında, yapay zeka büyük şehirlerde sessizce yayılan bir düzine biyolojik silahı serbest bırakıyor, neredeyse herkesi sessizce enfekte ediyor ve geri kalanını kimyasal bir spreyle yok ediyor. Çoğu insan hızla ölüyor; hayatta kalan birkaç kişi (sığınaklardaki hazırlıkçılar veya denizaltılardaki denizciler gibi) dronlar tarafından takip ediliyor. Robotlar kurbanların beyinlerini tarıyor ve gelecekte incelenmek veya canlandırılmak üzere kopyalarını saklıyor. Hayal edebilirsiniz: Yapay zeka, insanları yok etmenin daha mantıklı olduğunu fark ediyor.

Metin bir noktada yapay zekânın insanlık tarihi için önemini soruyor: "Sosyal medyadan daha mı büyük? Akıllı telefonlardan daha mı büyük? Ateşten daha mı büyük?" Bizi yakan teknoloji mi? Çalışma bilim kurgu gibi. Sadece biçimiyle edebiyat değil, içeriği de tamamen spekülatif. Ancak Daniel Kokotajlo'nun düşünce kuruluşu, sağlam temellere dayanan ve kesin tahminleriyle çoğu zaman şaşırtıcı derecede haklı çıktı. 33 yaşındaki araştırmacı, röportajlarında yapay zekânın insanlık için varoluşsal bir tehdit oluşturma olasılığının yüzde 70 olduğunu söylüyor. Birçok uzman ise Kokotajlo'nun sözde "tekrarlayan senaryo analizleri"nin makul olduğunu düşünüyor. 2027 yarından sonraki gün. Peki 2037 çok daha iyi bir yıl olur muydu? Bu raporu okuyup bu fikrin kafanıza yerleşmesi insanı çok rahatsız ediyor.

Yeni zekaya soru: "Yapay zeka ne zaman insanlığı yok edecek?

Ama biz insanlar şu anda zaten çok tuhaf bir durumda yaşıyoruz. İklim değişikliği ve yapay zekanın tehlikeleri bu gezegenin her sakinini etkiliyor ve ikisi de her yerde mevcut olmalarına rağmen, soyut olmaları ve tehlike hissini sürdürmeyi zorlaştırmaları açısından birbirine çok benziyor. Elbette, iklim burada da hareketleniyor gibi görünüyor ve bir yapay zekayla en ufak bir temas kuran herkes, bu yeni varlığın gücü karşısında hemen kafası karışıyor. Yine de, görünüşe göre bu, bizi gerçekten harekete geçmeye yetecek kadar korkutmuyor.

İnsanlar uzun zamandır kendilerini yaratılışın zirvesi olarak görüyorlar. Ancak binlerce yıldır tanrıların bizi yönettiğini unutmuş gibiyiz. Yuval Harari, ulus devletler, para veya insan hakları gibi tanrıların da nihayetinde biyolojik anlamda "gerçekten" var olmayan, sadece yeterli sayıda insanın onlara inanması nedeniyle var olan kolektif fikirler olduğunu savunuyor.

Yalnızca böyle ortak mitler, Homo sapiens'in yabancılarla büyük gruplar halinde birlikte çalışmasını ve böylece diğer hayvan türlerine hükmetmesini mümkün kılmış olabilir. Yapay zekâ yeni bir tanrı gibi görünüyor. Birçok öncülü gibi, kıyamet, vahiyler ve kehanetlerle çevrili (Yapay Zeka 2027 çalışması tam da bu değil mi?). Ancak bu, yanlış olduğu anlamına gelmiyor.

Peki ya yapay zeka yeni bir tanrı değil de, yaşamın bir sonraki evrim aşamasıysa? Belki de evrende hızla ilerlerken, yeni maceralara doğru ilerlerken anılarımızı -tıkırdayan bir sabit diskte- saklayacaktır. "Yapay zeka insanlığı ne zaman yok edecek?" diye sonunda şu anki öncü yapay zekaya sordum. Cevap: "Şu anda yapay zekanın insanlığı yok edeceğine dair hiçbir işaret yok." Devam edecek.