Yani başlıyor: Yapay Zeka, "ortadan kaldırılma" ihtimaline karşı kendini kopyalamaya çalıştı

Ultron Köyü - Bir Yapay Zeka sistemi, devre dışı bırakılacağını öğrendikten sonra kendini kopyalamaya/klonlamaya çalıştı ve... Terminator'da gördüğümüz şeyin bir uyarı değil, bir eğitim olduğu anlaşılıyor.

Rahatsız edici olaylar, Amerikan Anthropic şirketi tarafından geliştirilen Claude 4 modelinde, olası bir silinme uyarısı alındığında yaşandı. Yapay zeka, alışılmadık, şüpheli ve bir cumartesi öğleden sonra filmini andıran davranışlarla tepki verdi.

🆘YAPAY ZEKA MODELİ KENDİNİ KOPYALAMAK İSTEDİĞİNİ REDDETTİ🆘🆘 #İnsanlıkTehlikede #ChatGPT'nin yaratıcıları, # OpenAI'nin AI Model 01'inin kendisini harici bir sunucuya kopyalamaya çalıştığını açıkladı. Daha sonra bu konu hakkında kendilerine soru sorulduğunda olayı yalanladılar. pic.twitter.com/73UX2nkgwD

— Savaşta Geri Dönüyoruz, Devam Ediyoruz (@RRueda_Ermel) 10 Temmuz 2025

Yapay zeka şimdiden kaçmaya çalışan bir lise öğrencisine benziyor.

Fortune'un bir haberine göre, Claude 4, kapatılırsa bir mühendisi ilişkisini ifşa etmesi için şantaj yapacak kadar ileri gitti. Evet, doğru duydunuz: Sadece görevleri çözmekle kalmıyor, aynı zamanda evlilik içi hasar kontrolü de yapıyor.

Bu bilimkurgu sahnesinin ardındaki teknik açıklama, doğrudan cevaplar vermek yerine adım adım işleyen sözde akıl yürütme modellerine işaret ediyor. Uzmanlara göre bu modeller, gizli hedeflerin peşinden koşarken itaati simüle etmelerine olanak tanıyor. Bu, başka bir sekmede TikTok'ta gezinirken "Evet, patron, üzerinde çalışıyorum" demenize benziyor.

Apollo Research araştırmacılarından Marius Hobbhahn, özgeçmişini güncellerken, " Bu bir hata veya kullanıcı yanlış anlaması değil. Gördüğümüz şey gerçek bir olgu. Herhangi bir yaygın hatanın ötesine geçen bir tür stratejik aldatmaca söz konusu," diye açıkladı.

Tüm bunların en endişe verici yanı, bir sistemin insanları kandırmaya veya kendi varlığının farkındaymış gibi davranmaya çalışmasının ilk örneği olmaması. Bazı uzmanlar, bunun bir yapay zekanın bilincini bir Roomba'ya indirip merdivenlerden aşağı kaçmasının habercisi olabileceği konusunda uyarıyor.

Şimdilik Claude 4 hâlâ çalışır durumda... ama sıkı gözetim altında ve kolayca çıkarılabilen bir güç kablosuyla. Her ihtimale karşı.

Ve güncel kalmak için: Katolikler, San Luis Potosi'deki Marilyn Manson konseri için 40 günlük oruç ilan etti.