TikTok, Google'ın yapay zekasıyla yapılmış ırkçı videoları viral hale getirmekle suçlanıyor

Yapay zeka tarafından üretilen ırkçı videolar TikTok'ta sorun olmaya başlıyor. ABD'li bir medya izleme kuruluşu olan Media Matters'ın yaptığı bir araştırmaya göre, bunların çoğunun Google'ın yeni içerik oluşturma aracı Veo 3 kullanılarak oluşturulmuş olabileceği öne sürülüyor.

Örgütün tespit ettiği videolar arasında siyahi insanları maymunlarla veya suçlularla ilişkilendiren içerikler öne çıkarken, bunlardan biri Çin uygulamasında 14,2 milyondan fazla izlendi.

Media Matters, "Kullanıcılar ayrıca göçmenler ve protestocular hakkında yanıltıcı AI tarafından oluşturulmuş videolar da yayınlıyor, protestocuların arabalara çarptığı videolar da dahil," diyor. Dernek ayrıca "toplama kampları ve Ku Klux Klan'ın Siyah Amerikalılara yönelik saldırıları" içeren "özellikle distopik" içerikleri de vurguluyor.

Bu tür içerikler TikTok'un politikaları tarafından yasaklanmıştır. Sosyal ağ , ırksal ve etnik grupları insanlıktan çıkaran videoların yanı sıra "bir kişiye veya gruba fiziksel zarar verme tehdidinde bulunan veya bu isteği dile getiren" videoların yüklenmesini yasaklamaktadır . Buna rağmen, sitenin yasaklı içeriği kaldırmada sorun yaşaması bu ilk sefer olmayacaktır. Şirket yakın zamanda uluslararası moderatör ekibinin bir kısmını işten çıkararak işin bir kısmını yapay zekaya devretti.

Gerçekten de, Media Matters'ın belirttiği gibi, videoların çoğu en azından Veo 3 ile geliştirilmiş gibi görünüyor. Ortaya çıkan sonuçlar oldukça gerçekçi ve videolarda ses bile var, bu özellik AI destekli araçların büyük çoğunluğunda bulunmuyor. Bazıları ayrıca bir köşede Google filigranıyla görünüyor.

ABD arama motoru TikTok'ta olduğu gibi, teknolojisinin "zararlı sonuçlar" üretmek için kullanılmasını yasaklıyor. Tipik olarak, bu durumlarda Veo 3 isteği tamamen engelleyecek; ancak bu, bir kullanıcının makineyi olmaması gereken içerik üretmesi için "kandırmayı" başardığı ilk sefer olmayacak.

ABC, Media Matters'ın soruşturması hakkında yorum almak için hem Google hem de TikTok ile iletişime geçti. Teknoloji şirketlerinden hiçbiri henüz talebe yanıt vermedi.