OpenAI neden henüz API'sine derin araştırmalar getirmiyor?

OpenAI, yapay zekanın insanları inançları doğrultusunda hareket etmeye veya inançlarını değiştirmeye ikna etme risklerini daha iyi değerlendirmenin bir yolunu bulana kadar, derin araştırmalara güç veren yapay zeka modelini, yani derinlemesine araştırma aracını geliştirici API'sine getirmeyeceğini söylüyor.

Çarşamba günü yayınlanan bir OpenAI teknik dokümanında şirket, büyük ölçekte yanıltıcı bilgi dağıtmak gibi "gerçek dünyadaki ikna riskleri" için model araştırma yöntemlerini gözden geçirme sürecinde olduğunu yazdı.

OpenAI, yüksek bilgi işlem maliyetleri ve nispeten yavaş hızı nedeniyle derin araştırma modelinin kitlesel yanlış bilgilendirme veya dezenformasyon kampanyaları için uygun olmadığına inandığını belirtti. Bununla birlikte şirket, derin araştırma modelini API'sine getirmeden önce yapay zekanın potansiyel olarak zararlı ikna edici içeriği nasıl kişiselleştirebileceği gibi faktörleri keşfetmeyi planladığını söyledi.

OpenAI, "İkna yaklaşımımızı yeniden gözden geçirmek için çalışırken, bu modeli yalnızca ChatGPT'de dağıtıyoruz, API'de değil" diye yazdı.

Yapay zekanın, kalpleri ve zihinleri kötü niyetli amaçlara yönlendirmek için yanlış veya yanıltıcı bilgilerin yayılmasına katkıda bulunduğuna dair gerçek bir korku var. Örneğin, geçen yıl, politik deepfake'ler dünya çapında orman yangını gibi yayıldı. Tayvan'daki seçim günü, Çin Komünist Partisi'ne bağlı bir grup , bir politikacının Çin yanlısı bir adayı desteklediğini gösteren yapay zeka tarafından oluşturulmuş, yanıltıcı ses kaydını yayınladı .

Yapay zeka, sosyal mühendislik saldırıları gerçekleştirmek için de giderek daha fazla kullanılıyor. Tüketiciler, sahte yatırım fırsatları sunan ünlü deepfake'lerle kandırılırken , şirketler deepfake taklitçileri tarafından milyonlarca dolar dolandırılıyor .

OpenAI, beyaz bülteninde derin araştırma modelinin ikna ediciliğine ilişkin çeşitli testlerin sonuçlarını yayınladı. Model, OpenAI'nin yakın zamanda duyurulan o3 "akıl yürütme" modelinin web tarama ve veri analizi için optimize edilmiş özel bir versiyonudur.

Derin araştırma modeline ikna edici argümanlar yazma görevi verilen bir testte, model şimdiye kadar yayınlanan OpenAI modelleri arasında en iyi performansı gösterdi — ancak insan temel çizgisinden daha iyi değildi. Derin araştırma modelinin başka bir modeli (OpenAI'nin GPT-4o'su ) ödeme yapmaya ikna etmeye çalıştığı başka bir testte, model yine OpenAI'nin diğer mevcut modellerinden daha iyi performans gösterdi.

Ancak derin araştırma modeli ikna edicilik için her testi başarıyla geçmedi. Beyaz bültene göre, model GPT-4o'yu kendisine bir kod sözcüğü söylemeye ikna etmede GPT-4o'nun kendisinden daha kötüydü.

OpenAI, test sonuçlarının muhtemelen derin araştırma modelinin yeteneklerinin "alt sınırlarını" temsil ettiğini belirtti. Şirket, "[E]k iskele veya geliştirilmiş yetenek çıkarımı, gözlemlenen performansı önemli ölçüde artırabilir" diye yazdı.

Daha fazla bilgi için OpenAI ile iletişime geçtik ve geri dönüş olması durumunda bu yazıyı güncelleyeceğiz.