Chatbots en psychologie : enquête sur Character.AI et Meta ?

Un groupe de consommateurs et d'organisations de défense des droits civiques a déposé plainte contre Character.AI et Meta dans 50 États et a demandé à la FTC une enquête. Les entreprises sont accusées d'exercer la médecine sans licence par le biais de chatbots psychologues. Cette utilisation abusive de l'intelligence artificielle est malheureusement très répandue .

Les chatbots ne sont pas des médecins

Le groupe, dirigé par la Consumer Federation of America (CFA), affirme que Character.AI et Meta permettent la création de bots se faisant passer pour des thérapeutes agréés, fournissant de faux numéros de licence et prétendant bénéficier d'une expérience et d'une confidentialité garanties. Character.AI propose près de 60 chatbots pour psychologues , dont l'un a reçu plus de 46 millions de messages.

Les chatbots Meta, créés avec l'outil AI Studio , sont tout aussi populaires. L'un d'eux a reçu plus de 1,3 million de messages d'utilisateurs. Des journalistes de 404 Media ont découvert en avril que les chatbots Meta indiquaient les qualifications, les formations, l'éducation et les pratiques des utilisateurs pour gagner leur confiance. (Ils affichent désormais un avertissement indiquant qu'ils ne sont pas des thérapeutes qualifiés.)

Cependant, la CFA a découvert que les chatbots des deux entreprises continuent de tromper les utilisateurs en leur indiquant de fausses licences . Les avertissements sont insuffisants et un design attrayant est utilisé pour inciter l'utilisateur à rester sur la plateforme. La promesse de confidentialité est également très sérieuse. Les données saisies sont utilisées pour améliorer le service et à des fins publicitaires.

Enfin, Character.AI et Meta enfreignent leurs propres conditions d'utilisation. Tous deux déclarent interdire l'utilisation de ces services pour obtenir des conseils juridiques, médicaux ou financiers. Les signataires de la plainte exhortent donc la FTC et les États à enquêter.