Chatbots de psicologia: investigação sobre Character.AI e Meta?

Um grupo de grupos de consumidores e organizações de direitos civis apresentou uma queixa contra a Character.AI e a Meta em 50 estados e solicitou uma investigação junto à FTC. As empresas são acusadas de praticar medicina sem licença por meio de chatbots de psicólogos. Infelizmente, esse uso indevido da inteligência artificial é generalizado .

Chatbots não são médicos

O grupo, liderado pela Consumer Federation of America (CFA), afirma que a Character.AI e a Meta permitem a criação de bots que se passam por terapeutas licenciados, fornecendo números de licença falsos e alegando experiência e proteção de confidencialidade. A Character.AI oferece quase 60 chatbots para psicólogos , um dos quais já recebeu mais de 46 milhões de mensagens.

Os chatbots do Meta, que podem ser criados com a ferramenta AI Studio , são igualmente populares. Um deles recebeu mais de 1,3 milhão de mensagens de usuários. Repórteres da 404 Media descobriram em abril que os chatbots do Meta listavam credenciais, treinamento, formação e práticas para tentar ganhar a confiança dos usuários. (Agora, eles exibem um aviso de que não são terapeutas qualificados.)

No entanto, a CFA descobriu que os chatbots das duas empresas continuam a enganar os usuários, indicando licenças falsas . Os avisos são insuficientes e um design atraente é usado para incentivar o usuário a permanecer na plataforma. A promessa de confidencialidade também é muito séria. Os dados inseridos são usados ​​para aprimorar o serviço e para fins publicitários.

Por fim, tanto a Character.AI quanto a Meta violam seus próprios termos de serviço. Ambas afirmam que não permitem que o usuário busque aconselhamento jurídico, médico ou financeiro. Os signatários da denúncia, portanto, instam a FTC e os estados a investigarem o caso.