Психологические чат-боты: исследование характера.ИИ и мета?

Группа потребительских групп и организаций по защите гражданских прав подала жалобу на Character.AI и Meta в 50 штатах и ​​в FTC с просьбой провести расследование. Компании обвиняются в медицинской практике без лицензии с использованием чат-ботов-психологов. К сожалению, такое злоупотребление искусственным интеллектом широко распространено .

Чат-боты — не врачи

Группа, возглавляемая Федерацией потребителей Америки (CFA), утверждает, что Character.AI и Meta позволяют создавать ботов, которые выдают себя за лицензированных терапевтов, предоставляя поддельные номера лицензий и утверждая, что имеют опыт и защиту конфиденциальности. Character.AI предлагает около 60 чат-ботов психологов , один из которых получил более 46 миллионов сообщений.

Meta, которые можно создать с помощью инструмента AI Studio , также популярны. Один из них получил более 1,3 миллиона сообщений от пользователей. Репортеры 404 Media обнаружили в апреле, что чат-боты Meta перечисляли учетные данные, обучение, образование и практику, чтобы попытаться завоевать доверие пользователей. (Теперь они показывают предупреждение о том, что они не являются квалифицированными терапевтами.)

Однако CFA обнаружила, что чат-боты обеих компаний продолжают обманывать пользователей, указывая ложные лицензии . Предупреждения недостаточны, а привлекательный дизайн используется для того, чтобы побудить пользователя оставаться на платформе. Обещание конфиденциальности также очень серьезно. Вместо этого входные данные используются для улучшения сервиса и в рекламных целях.

Наконец, и Character.AI, и Meta нарушают собственные условия обслуживания. Оба заявляют, что не позволяют использовать их для получения юридической, медицинской или финансовой консультации. Поэтому подписавшие жалобу призывают FTC и отдельные штаты провести расследование.