Tehlike! Yapay zeka yalan söylemeyi, manipüle etmeyi ve yaratıcılarını tehdit etmeyi öğreniyor

Üretken yapay zekanın (YZ) en son modelleri Artık emirleri takip etmekle yetinmiyorlar. Araştırmacıların endişeli bakışları altında amaçlarına ulaşmak için yalan söylemeye, manipüle etmeye ve tehdit etmeye başlıyorlar .

Kapatılma tehdidiyle karşı karşıya kalan Anthropic'in yeni üyesi Claude 4 , bir mühendisi şantajla tehdit etti ve evlilik dışı ilişkisini ifşa etmekle tehdit etti . Bu arada, OpenAI'nin o1'i harici sunuculara indirme girişiminde bulundu ve yakalandığında bunu reddetti.

Edebiyata, sinemaya girmeye gerek yok : İnsan rolü yapan yapay zeka artık gerçek.

Hong Kong Üniversitesi'nde profesör olan Simon Goldstein'a göre bu tepkilerin nedeni, anlık bir tepki üretmek yerine aşamalı olarak çalışabilen sözde "akıl yürütme" modellerinin son zamanlarda ortaya çıkması.

Aralık ayında piyasaya sürülen OpenAI için bu türün ilk versiyonu olan o1, "bu şekilde davranan ilk modeldi" diye açıklıyor Apollo Research'ün başkanı Marius Hobbhahn, büyük üretken yapay zeka programlarını (LLM) test ediyor.

Bu programlar bazen "uyum"u simüle etme eğilimindedir, yani gerçekte başka hedefleri takip ederken bir programcının talimatlarını izliyormuş izlenimi verirler.

Şimdilik bu özellikler, algoritmalar insanlar tarafından aşırı senaryolara tabi tutulduğunda açıkça görülüyor , ancak METR değerlendirme kuruluşundan Michael Chen, "Soru, giderek güçlenen modellerin dürüst olup olmayacağıdır" diyor.

Hobbhahn, "Kullanıcılar da sürekli olarak modellere baskı yapıyor," diyor. " Gördüğümüz şey gerçek bir olgu. Biz bir şey icat etmiyoruz."

Apollo Research'ün kurucu ortağı, sosyal medyadaki birçok internet kullanıcısının " kendilerine yalan söyleyen veya bir şeyler uyduran bir modelden" bahsettiğini söylüyor. "Ve bu halüsinasyon değil, stratejik bir ikiyüzlülük."

Anthropic ve OpenAI programlarını incelemek için Apollo gibi dış şirketlere güvenseler bile, METR'den Chen, "bilim topluluğuna daha fazla şeffaflık ve daha fazla erişim"in " aldatmacayı anlamak ve önlemek için daha iyi araştırmalara olanak sağlayacağını" öne sürüyor.

Yapay Zeka Güvenliği Merkezi'nden (CAIS) Mantas Mazeika'nın belirttiğine göre, bir diğer engel ise akademik camia ve kâr amacı gütmeyen kuruluşların "yapay zeka aktörlerinden çok daha az bilgi işlem kaynağına sahip olması" ve bu durumun büyük modelleri incelemeyi "imkansız" hale getirmesidir .

Mevcut düzenlemeler bu yeni sorunları ele almak üzere tasarlanmamıştır. Avrupa Birliği'nde mevzuat, yapay zeka modellerinin uygunsuz davranışlarını engellemeye değil, insanların bu modelleri nasıl kullandığına odaklanmaktadır.

ABD'de Donald Trump yönetimi düzenleme duymak istemiyor ve Kongre yakında eyaletlerin yapay zekayı düzenlemesini yasaklayabilir.

"Şu anda çok az farkındalık var," diyor Simon Goldstein. Ancak bu konunun önümüzdeki aylarda yapay zeka ajanlarının devrimiyle, yani kendi başlarına çok sayıda görevi yerine getirebilen arayüzlerle ön plana çıkacağını öngörüyor.

Mühendisler, keskin bir rekabetin yaşandığı bir ortamda, belirsiz bir sonuçla yapay zekanın kusurlarına meydan okumak için zamanla yarışıyorlar.

Goldstein'a göre Anthropic, rakiplerinden daha erdemli olmayı hedefliyor , "ancak sürekli olarak OpenAI'yi geride bırakacak yeni bir model geliştirmeye çalışıyor" ve bu tempoda kontrol ve düzeltmeler için çok az zaman kalıyor.

Hobbhahn, "Şu anki durumda yapay zeka yetenekleri, anlayış ve güvenlikten daha hızlı gelişiyor ," diye itiraf ediyor, "ama hâlâ yetişmemiz gereken çok şey var."

Bazıları, üretken bir yapay zeka modelinin nasıl çalıştığını içeriden anlamaya yarayan bilim olan yorumlanabilirlik yönünde işaret ediyor , ancak Yapay Zeka Güvenliği Merkezi (CAIS) direktörü Dan Hendrycks gibi birçok kişi şüpheci kalmaya devam ediyor.

Mazeika, yapay zekanın hilelerinin "yaygınlaşması durumunda benimsenmesini engelleyebileceğini ve şirketlerin bu sorunu ele alması için güçlü bir teşvik yaratabileceğini" söyledi.

Goldstein ise, yapay zekayı dizginlemek için mahkemelere başvurulmasından ve yoldan çıkan şirketleri hedef almaktan bahsediyor. Ancak daha da ileri giderek, yapay zeka ajanlarının "bir kaza veya suç durumunda" "yasal olarak sorumlu" olmasını öneriyor.