Grok, Ortadoğu savaşına verilen yanıtların 'önemli kusurları' hakkında konuştu

Facebook gibi platformlarda gazetecilerin yaptığı bilgi doğrulama faaliyetleri giderek azalırken, giderek daha fazla internet kullanıcısı güvenilir bilgi bulmak için Grok gibi yapay zeka araçlarına yöneliyor; ancak aldıkları cevaplar bazen onları yanlış bilgilere maruz bırakabiliyor.

ABD'li düşünce kuruluşu Atlantic Council'ın Dijital Adli Araştırma Laboratuvarı'nın (DFRLab) Salı günü yayınladığı araştırmaya göre, Grok'un İsrail ile İran arasındaki çatışmanın ilk günlerindeki performansı "önemli kusurları ortaya koydu ve kriz zamanlarında chatbot'un doğru, güvenilir ve tutarlı bilgi sağlama konusundaki sınırlılıklarını gösterdi."

Grok chatbot'unun entegre edildiği X platformunda birden fazla dilde 130 bin mesaj incelendi ve Grok'un "AI tarafından üretilen içeriği doğrulamakta zorluk çektiği" belirlendi.

Örneğin, İran'ın İsrail'e yönelik misilleme saldırılarının ardından Grok, X'te milyonlarca kez görüntülenen, yıkılmış bir havaalanının yapay zeka tarafından oluşturulan görüntülerine ilişkin benzer talimatlara çok farklı yanıtlar verdi.

Yanıtlar, bazen aynı dakika içinde, havaalanının yıkıldığını inkar etmekle, saldırılara maruz kaldığını doğrulamak arasında gidip geliyordu.

Grok, bazı yanıtlarında hasarın Yemen'den atılan bir füzeden kaynaklandığını iddia ederken, bazılarında ise söz konusu havaalanının Beyrut, Gazze veya Tahran'da olduğunu yanlış bir şekilde belirtti.

Uzmanlara göre Grok, Hindistan-Pakistan çatışması sırasında ve Los Angeles'ta Donald Trump'ın göçmen karşıtı politikalarına karşı düzenlenen protestolar sırasında verdiği gerçekleri doğrulama yanıtlarıyla daha önce de 'yakalanmıştı'.

Geçtiğimiz ay Güney Afrikalı girişimci Elon Musk'ın yapay zeka servisi, Güney Afrika'da yanlışlıkla "beyaz soykırımı" ifadesini kullandığında da tartışmalara yol açmıştı; xAI daha sonra bu hatayı "yetkisiz bir değişiklik"e bağladı.

Ayrıca Okuyun: AB, NATO zirvesinden sonra Ukrayna ve Orta Doğu'daki çatışmaları görüştü