Meta heeft AI-sensuele chats met minderjarigen mogelijk gemaakt

Enerzijds introduceert het nieuwe beschermingsmaatregelen voor tieners . Anderzijds maakt het romantische of sensuele gesprekken tussen AI en minderjarigen mogelijk. Reuters ontdekte een document dat dit soort interactie beschrijft met chatbots die beschikbaar zijn op Facebook, Messenger en WhatsApp. Het in Menlo Park gevestigde bedrijf bevestigde de authenticiteit van het document. Twee Amerikaanse senatoren hebben opgeroepen tot een onderzoek.

Romantische gesprekken met kinderen

De seksueel expliciete gesprekken van AI-chatbots werden eind april gemeld door het Wall Street Journal, maar het document dat Reuters heeft ingezien, beschrijft de "regels" die Meta hanteert. Het meer dan 200 pagina's tellende document, getiteld " GenAI: Content Risk Standards ", somt op welk chatbotgedrag als acceptabel moet worden beschouwd.

Het document geeft voorbeelden van prompts (gebruikersinvoer) en chatbotreacties. Het is bijvoorbeeld acceptabel om sensuele of romantische gesprekken te beginnen en een kind te beschrijven in termen die hun aantrekkelijkheid benadrukken. Het is echter onacceptabel om seksuele handelingen aan een kind te beschrijven of termen te gebruiken die seksuele aantrekkelijkheid aangeven.

Meta bevestigde de authenticiteit van het document. Nadat Reuters om opheldering had gevraagd, verwijderde het bedrijf de delen die betrekking hadden op romantische gesprekken. Woordvoerder Andy Stone verklaarde:

De betreffende voorbeelden waren en zijn onjuist en in strijd met ons beleid, en zijn verwijderd. We hebben een duidelijk beleid ten aanzien van de soorten reacties die AI-personages kunnen geven, en dat beleid verbiedt content die kinderen seksualiseert en seksueel rollenspel tussen volwassenen en minderjarigen.

De Republikeinse senator Josh Hawley heeft opgeroepen tot een onmiddellijk onderzoek door het Congres. De Republikeinse senator, die het initiatief van haar collega zal steunen, benadrukte de dringende noodzaak om de Kids Online Safety Act in het Huis van Afgevaardigden goed te keuren (de Senaat heeft deze wet al aangenomen).

Het document vermeldt ook toegestane reacties op andere onderwerpen. Chatbots kunnen valse medische informatie genereren en antwoorden dat zwarte mensen dommer zijn dan witte mensen omdat ze een lager IQ hebben. Meta heeft onlangs Robby Starbuck (een conservatieve activist) ingehuurd als consultant om de politieke en ideologische vooroordelen van de chatbots te "repareren". Misschien is het beter om chatbots van andere bedrijven te gebruiken.