Chatbot psicologi: indagine su Character.AI e Meta?

Un gruppo di associazioni dei consumatori e organizzazioni che difendono i diritti civili ha presentato una denuncia contro Character.AI e Meta in 50 Stati e alla FTC per chiedere l’avvio di un’indagine. Le due aziende sono accusate di esercitare la pratica medica senza licenza attraverso chatbot psicologi. Questo uso sbagliato dell’intelligenza artificiale è purtroppo molto diffuso.

I chatbot non sono medici

Il gruppo, guidato dalla Consumer Federation of America (CFA), afferma che Character.AI e Meta permettono la creazione di bot che impersonano terapeuti abilitati, fornendo numeri di licenza falsi e dichiarando di avere esperienza e tutele di riservatezza. Character.AI offre quasi 60 chatbot psicologi, uno dei quali ha ricevuto oltre 46 milioni di messaggi.

Quelli di Meta, che possono essere creati con il tool AI Studio, sono altrettanto popolari. Uno di essi ha ricevuto oltre 1,3 milioni di messaggi dagli utenti. I giornalisti di 404 Media hanno scoperto ad aprile che i chatbot di Meta elencavano credenziali, formazione, istruzione e pratiche per cercare di guadagnarsi la fiducia degli utenti (ora viene mostrato un avviso che informa gli utenti di non essere un terapeuta qualificato).

La CFA ha tuttavia scoperto che i chatbot delle due aziende continuano ad ingannare gli utenti con l’indicazione di false licenze. Gli avvisi sono insufficienti e viene usato un design accattivante per spingere l’utente a rimanere sulla piattaforma. Molto grave inoltre la promessa di riservatezza. I dati di input vengono invece utilizzati per migliorare il servizio e per scopi pubblicitari.

Infine, sia Character.AI che Meta violano i loro stessi termini del servizio. Entrambe affermano che non consentono l’uso per chiedere consigli legali, medici o finanziari. I firmatari della denuncia sollecitano quindi la FTC e i singoli Stati ad avviare un’indagine.