Meta, yapay zeka destekli, reşit olmayanlarla duygusal sohbetlere olanak sağladı

Bir yandan gençler için yeni korumalar getiriyor. Diğer yandan, yapay zekâ ile reşit olmayanlar arasında romantik veya şehvetli sohbetlere izin veriyor. Reuters, Facebook, Messenger ve WhatsApp'ta bulunan sohbet robotlarıyla bu tür etkileşimleri açıklayan bir belge keşfetti. Menlo Park merkezli şirket, belgenin gerçekliğini doğruladı. İki ABD senatörü soruşturma çağrısında bulundu.

Çocuklarla romantik sohbetler

Yapay zeka sohbet robotlarının cinsel içerikli konuşmaları Nisan ayı sonlarında Wall Street Journal tarafından bildirilmişti, ancak Reuters'ın incelediği belge, Meta tarafından uygulanan "kuralları" ayrıntılı olarak açıklıyor. " GenAI: İçerik Risk Standartları " başlıklı 200 sayfadan fazla belge, hangi sohbet robotu davranışlarının kabul edilebilir sayılması gerektiğini listeliyor.

Belgede, istemlere (kullanıcı girdisi) ve sohbet robotu yanıtlarına örnekler verilmektedir. Örneğin, şehvetli veya romantik konuşmalar başlatmak ve bir çocuğu çekiciliğini vurgulayan terimlerle tanımlamak kabul edilebilir. Ancak, bir çocuğa cinsel eylemleri anlatmak veya cinsel arzuyu ifade eden terimler kullanmak kabul edilemez.

Meta, belgenin gerçekliğini doğruladı. Reuters'ın açıklama talep etmesi üzerine şirket, romantik konuşmalarla ilgili kısımları kaldırdı. Sözcü Andy Stone şunları söyledi:

Söz konusu örnekler yanlış ve politikalarımızla tutarsız olup kaldırılmıştır. Yapay zeka karakterlerinin sunabileceği tepki türleri konusunda net politikalarımız vardır ve bu politikalar, çocukları cinselleştiren içerikleri ve yetişkinler ile küçükler arasında cinselleştirilmiş rol yapma oyunlarını yasaklamaktadır.

Cumhuriyetçi Senatör Josh Hawley, acil bir kongre soruşturması çağrısında bulundu . Meslektaşının girişimini destekleyecek olan Cumhuriyetçi senatör, Çocukların Çevrimiçi Güvenliği Yasası'nın Temsilciler Meclisi'nden acilen geçirilmesi gerektiğini vurguladı (yasa Senato'dan çoktan geçti).

Belgede ayrıca diğer konularda izin verilen yanıtlar da listeleniyor. Sohbet robotları yanlış tıbbi bilgiler üretebilir ve siyahların beyazlardan daha aptal olduğu, çünkü IQ'larının daha düşük olduğu şeklinde yanıt verebilir. Meta, sohbet robotlarının siyasi ve ideolojik önyargılarını "düzeltmek" için yakın zamanda Robby Starbuck'ı (muhafazakar bir aktivist) danışman olarak işe aldı . Belki de başka şirketlerin sohbet robotlarını kullanmak daha iyidir.