Гарант конфиденциальности накладывает санкции на компанию, управляющую чат-ботом Replika

Новое расследование было начато режим обучения модели интеллекта Генеративный искусственный интеллект в основе сервиса - А Примечание от Гаранта конфиденциальности, который «оштрафовал на 5 миллионов евро американская компания Luka Inc., которая управляет чат-ботом «Реплика» и начала независимое расследование, чтобы проверить правильность обработки персональных данных, осуществляемой Генеративная система искусственного интеллекта, лежащая в основе услуга. Чат-бот, оснащенный письменным и голосовым интерфейсом, позволяет пользователю «создать» «виртуального друга», которому можно приписать роль доверенного лица, терапевта, романтического партнера или наставника. В ходе расследования Гарант установил нарушение оспариваемых положений в феврале 2023 г., когда он приказал заблокировать приложение. Согласно Гарант, американская компания не указала, на тот момент дата 2 февраля 2023 года, правовые основы деятельности обработка осуществляется через «Реплику». Лука, кроме того, предоставил неадекватную политику конфиденциальности во многих отношениях. Наконец, Гарант установил, что по состоянию на 2 февраля 2023, компания не предоставила никакого механизма проверки возраста пользователей, ни на момент регистрации в обслуживания, ни во время его использования, хотя компания заявили, что исключат несовершеннолетних из числа потенциальных пользователей. В результате проведенных технических исследований выяснилось, что система проверки возраста, в настоящее время осуществляемой владельцем по-прежнему недостает во многих отношениях. По этим причинам, в дополнение к санкционным мерам, Управление обязало компанию соблюдать правила обработки положениям Регламента. В запросе информации, который положил начало новому В ходе расследования Гарант попросил Луку дать разъяснения относительно обработки данных, относящихся ко всему жизненному циклу системы генеративного искусственного интеллекта, лежащей в основе сервиса «Реплика». В в частности, в отношении оценки риска и мер приняты для защиты данных на различных стадиях разработки и обучение языковой модели, лежащей в основе «Реплики», к типам и категориям используемых данных, к любым реализация мер анонимизации или ''псевдонимизация''.