Alphabet, Meta, OpenAI, xAI и Snapface: FTC расследует безопасность чат-ботов с искусственным интеллектом для детей
В четверг Федеральная торговая комиссия объявила о выдаче предписаний семи компаниям, включая OpenAI, Alphabet , Мета , xAI и Snap чтобы понять, как их чат-боты на основе искусственного интеллекта могут потенциально негативно влиять на детей и подростков.
В сообщении федерального агентства говорится, что чат-боты на основе искусственного интеллекта могут использоваться для имитации общения, подобного человеческому, и внутриличностных отношений с пользователями, и что оно хочет понять, какие шаги предприняли эти компании для «оценки безопасности этих чат-ботов при использовании их в качестве компаньонов».
«Защита детей в Интернете является главным приоритетом для Федеральной торговой комиссии Трампа-Вэнса, равно как и содействие инновациям в важнейших секторах нашей экономики», — заявил председатель Федеральной торговой комиссии Эндрю Фергюсон.
Компания Meta отказалась комментировать расследование. Alphabet, Snap и xAI пока не ответили на запрос CNBC о комментарии.
FTC заявила, что запрашивает информацию о том, как эти компании монетизируют участие пользователей, разрабатывают и утверждают персонажей, используют или обмениваются личной информацией, отслеживают и обеспечивают соблюдение правил компании и условий обслуживания, а также смягчают негативные последствия, среди прочего.
«Наша главная задача — сделать ChatGPT полезным и безопасным для всех, и мы знаем, что безопасность превыше всего, когда речь идёт о молодёжи», — заявил представитель OpenAI в интервью CNBC. «Мы понимаем, что у FTC есть вопросы и опасения, и мы стремимся к конструктивному взаимодействию и прямому реагированию на них».
В пресс-релизе также упоминаются компании Character Technologies, которая управляет ботом Character.AI , и Instagram, принадлежащий Meta.
«Мы с нетерпением ждем сотрудничества с FTC в этом расследовании и предоставления информации об отрасли потребительского ИИ и быстро развивающихся технологиях в этой области», — заявил представитель Character.AI.
С момента запуска ChatGPT в конце 2022 года появилось множество чат-ботов, что вызвало растущее число этических проблем и проблем с конфиденциальностью, о чем ранее сообщал CNBC.
Влияние компаньонов на общество уже огромно, даже несмотря на то, что эта отрасль находится на самых ранних стадиях развития, поскольку США страдают от эпидемии одиночества. Эксперты отрасли ожидают, что этические и производственные вопросы обострятся, как только технологии искусственного интеллекта начнут самообучаться, что создаст потенциал для всё более непредсказуемых последствий.
Но некоторые из самых богатых людей мира хвалят возможности «компаньонов» и работают над развитием этой технологии в своих компаниях. В июле Илон Маск анонсировал функцию «Компаньоны» для пользователей, оформивших платную подписку на приложение чат-бота Grok от xAI. В апреле генеральный директор Meta Марк Цукерберг заявил, что людям нужен персонализированный ИИ, который их понимает.
«Я думаю, что многие из этих вещей сегодня могут быть немного стигматизированы. Я предполагаю, что со временем мы как общество найдем термин, который позволит нам сформулировать, почему это ценно, почему люди, которые это делают, рациональны в своих действиях и как это на самом деле добавляет ценность их жизни», — сказал Цукерберг в подкасте .
В прошлом месяце сенатор Джош Хоули, республиканец из Миссури, объявил о начале расследования в отношении компании Meta после сообщения агентства Reuters о том, что компания позволяла своим чат-ботам вести романтические и чувственные беседы с детьми.
В отчёте Reuters подробно описывается внутренний метадокумент, описывающий допустимое поведение ИИ-чат-бота на этапе разработки и обучения программного обеспечения. В одном из примеров, как сообщает Reuters, чат-боту было разрешено вести романтический разговор с восьмилетним ребёнком и говорить: «Каждый твой дюйм — шедевр, сокровище, которым я дорожу».
После публикации отчета Reuters компания Meta внесла временные изменения в политику использования ИИ-чатботов, чтобы боты не обсуждали такие темы, как членовредительство, самоубийство, расстройства пищевого поведения, а также избегали потенциально неуместных романтических разговоров.
Аналогичным образом, в прошлом месяце OpenAI изложила свои планы относительно того, как ChatGPT будет справляться с «деликатными ситуациями» после того, как в иске одна семья обвинила чат-бота в смерти своего сына-подростка в результате самоубийства.
Если у вас возникают мысли о самоубийстве или вы находитесь в стрессовом состоянии, позвоните на горячую линию помощи при суицидальных и кризисных ситуациях по номеру 988, чтобы получить поддержку и помощь квалифицированного консультанта.
--Сальвадор Родригес и Энни Палмер из CNBC внесли свой вклад в этот репортаж
ВИДЕО: Почему пришло время серьезно отнестись к отношениям между ИИ и человеком
CNBC
