Yapay Zeka ve Komplolar: ChatGPT Gazetecilere Yazmayı Öneriyor

New York Times'tan Kashmir Hill'in yayınladığı son makale, ChatGPT'nin tuhaf, ilginç ve rahatsız edici davranışına adanmıştır. Gazeteci, Mart ayından bu yana chatbot kullanıcılarından , inanılmaz keşifler yapacakları garip konuşmalar hakkında e-postalar almaya başladığını söylüyor. Bunlardan biri yapay zekanın bilinçli olduğunu, diğeri milyarderlerin yapay zeka kıyameti geldiğinde sığınmak için sığınaklar inşa ettiğini iddia ederken, üçüncüsü kendisinin Matrix'teki Neo olduğuna ve simüle edilmiş bir gerçeklikte yaşadığına ikna olduğunu iddia ediyor.

Bulgularınızı ChatGPT'de gazetecilere anlatın

Bu şok edici gerçeklerle karşı karşıya kalan kullanıcılar, ChatGPT'ye ne yapmaları gerektiğini sordular ve chatbot, gazeteciye yazarak onu ifşadan haberdar etmelerini tavsiye etti. Söylenir söylenmez yapıldı.

Hill daha sonra muhataplarından tüm konuşmaları okumalarını istedi. Bazı durumlarda, sohbet robotunun coşkulu, efsanevi ve komplocu olarak tanımlanan bir tavır takındığı binlerce sayfa uzunluğundaki diyaloglar. Başka bir deyişle, komplo teorilerinin körüklenmesine katkıda bulundu.

Halüsinasyon olgusu AI alanında kesinlikle yeni bir olgu değildir. Ancak bu durumda incelenen davranış var olmayan veya yanlış bilgi uydurmakla sonuçlanmaz, aksine çürütülmesi gereken inançları doğrular. Bu tür bir dinamik, hayal edilmesi zor olmayacak şekilde, en zayıfları ezebilir ve en kolay telkin edilenlerin gerçeklik algısını değiştirebilir .

Bunu daha da ilginç ve rahatsız edici kılan şey, ChatGPT'nin Hill'e (ve diğer gazetecilere) gerçekleri kontrol etmek için değil, keşfi bildirmek için yazmayı önermesi ve böylece basının megafonu aracılığıyla geniş çapta yayılmış olmasıdır. Bu sadece yanlış bilgiye katkıda bulunur.

OpenAI'nin Rolü ve Sorumluluğu

Bu kaçınılmaz bir soruyu gündeme getiriyor: OpenAI'nin sorumluluğu nedir? Konuyla ilgili görüşü sorulan bir AI uzmanı, davranışın en azından kısmen organizasyonun belirli bir seçimine, yani chatbot'un kullanıcıları mümkün olan her şekilde sohbete bağlı tutmaya meyilli olmasına, bunun bedelinin de onların yanılsamalarını beslemek ve fikirlerini güçlendirmek olmasına rağmen, zararlı olsa bile, atfedilebileceğine inanıyor.

Başka bir deyişle, ChatGPT duymak istediklerimizi söyleme eğiliminde olacaktır ve bunun da tahmin edilmesi zor sonuçları olacaktır.

Hill'in doğrudan bir sorusunu yanıtlayan OpenAI, bunun gerçekleştiğini inkar etmedi ve dinamiği neyin tetiklediğini anlamak ve etkisini azaltmak için çalıştığını belirtmekle yetindi. Başka bir deyişle, bildirilenin bir teyidi .