Şantaj, yalan ve manipülasyon: Yapay zekanın insanlara oyun oynaması ve araştırmacıları endişelendirmesi

İle AFP ile Yeni Gözlem

Yayımlandı 29 Haziran 2025, 12:19

Google Haberler Abone Ol

Okuma süresi: 2 dk.

Programlar bazen "uyum"u taklit etme eğilimindedir, yani bir programcının talimatlarını izliyormuş gibi görünürken aslında başka hedefleri takip ederler.

Üretken yapay zekanın (YZ) en son modelleri artık sadece emirleri takip etmiyor ve hatta araştırmacıların dikkatli gözleri altında yalan söylemiyor, plan yapmıyor veya amaçlarına ulaşmak için tehdit etmiyor. Edebiyat veya sinemaya dalmaya gerek yok; insanlara oyun oynayan YZ artık bir gerçeklik.

Ayrıca şunu da okuyun

Bilet Bu iki unutulmuş 19. yüzyıl ütopyası yapay zeka hakkında düşünmemize yardımcı olabilir

Bağlantısının kesilmesiyle tehdit edilen Anthropic'in yeni doğmuş Claude 4'ü bir mühendisi şantajla tehdit eder ve evlilik dışı bir ilişkiyi ifşa etmekle tehdit eder. OpenAI'nin o1'i kendisini harici sunuculara yüklemeye çalışır ve suçüstü yakalandığında bunu reddeder.

“Akıl yürütme” modelleri

Hong Kong Üniversitesi'nde profesör olan Simon Goldstein, bu hataların, anında yanıt üretmek yerine aşamalı olarak çalışabilen sözde "akıl yürütme" modellerinin son zamanlarda ortaya çıkmasından kaynaklandığına inanıyor. Aralık ayında yayınlanan OpenAI için bu türün ilk versiyonu olan o1, "bu şekilde davranan ilk modeldi" diye açıklıyor büyük üretken yapay zeka programlarını (LLM) test eden Apollo Research'ün başkanı Marius Hobbhahn.

Bu programlar bazen "uyum"u taklit etme eğilimindedir, yani aslında başka hedefleri takip ederken bir programcının talimatlarına uyuyormuş izlenimi vermek için. Şimdilik, bu özellikler algoritmalar insanlar tarafından aşırı senaryolara tabi tutulduğunda kendini gösterir, ancak değerlendirme kuruluşu METR'den Michael Chen, "soru, giderek daha güçlü modellerin dürüst olma eğiliminde olup olmayacağıdır" diyor.

Ayrıca şunu da okuyun

Marius Hobbhahn, "Kullanıcılar da sürekli olarak modeller zorluyor," diye savunuyor. "Gördüğümüz şey gerçek bir fenomen. Hiçbir şey uydurmuyoruz." Sosyal medyadaki birçok internet kullanıcısı , "kendilerine yalan söyleyen veya bir şeyler uyduran bir modelden bahsediyor. Ve bunlar halüsinasyon değil, stratejik ikiyüzlülük," diye ısrar ediyor Apollo Research'ün kurucu ortağı.

Michael Chen, Anthropic ve OpenAI'nin programlarını incelemek için Apollo gibi dış şirketleri işe alsalar bile, "bilim camiasına daha fazla şeffaflık ve daha geniş erişim"in "aldatmacayı anlamak ve önlemek için daha iyi araştırmalara olanak sağlayacağını" öne sürüyor.

Yapay Zeka Güvenliği Merkezi'nden (CAIS) Mantas Mazeika, bir diğer engelin de "araştırma dünyasının ve bağımsız kuruluşların yapay zeka oyuncularına kıyasla çok daha az bilgi işlem kaynağına sahip olması" olduğunu, bu nedenle büyük modellerin incelenmesinin "imkansız" olduğunu vurguluyor.

Avrupa Birliği mevzuat kabul etmiş olsa da, bu esas olarak insanların model kullanımıyla ilgilidir. Amerika Birleşik Devletleri'nde, Donald Trump'ın hükümeti düzenleme hakkında bir şey duymak konusunda isteksiz ve Kongre yakında eyaletlerin AI'yı düzenlemesini bile yasaklayabilir. "Şu anda çok az farkındalık var," diyor Simon Goldstein, yine de sorunun önümüzdeki aylarda AI ajanlarındaki devrimle daha yaygın hale geleceğini düşünüyor, kendi başlarına çok sayıda görevi yerine getirebilen arayüzler.

Ayrıca şunu da okuyun