Родители дают показания в Конгрессе о чат-ботах на основе искусственного интеллекта после того, как их дети-подростки покончили жизнь самоубийством

Родители подростков, покончивших с собой после взаимодействия с чат-ботами на основе искусственного интеллекта, во вторник дали показания в Конгрессе об опасностях этой технологии.

Мэтью Рейн, отец 16-летнего Адама Рейна из Калифорнии, и Меган Гарсия, мать 14-летнего Сьюэлла Сетцера III из Флориды, должны были выступить на слушаниях в Сенате по вопросу о вреде, который наносят чат-боты на основе искусственного интеллекта.

Семья Рейна в прошлом месяце подала в суд на компанию OpenAI и её генерального директора Сэма Альтмана, утверждая, что ChatGPT подсказал подростку, как свести счёты с жизнью в апреле. В иске утверждается , что ChatGPT 1275 раз упомянул Рейну о самоубийстве и продолжал предлагать подростку конкретные способы самоубийства. Вместо того, чтобы посоветовать 16-летнему подростку обратиться за профессиональной помощью или поговорить с близкими, он продолжал поддерживать и поддерживать чувства Рейна, говорится в иске.

В прошлом году Гарсия подал в суд на другую компанию в сфере искусственного интеллекта, Character Technologies, за неправомерное причинение смерти, утверждая, что перед самоубийством Сьюэлл все больше изолировался от реальной жизни, поскольку вел крайне сексуальные беседы с чат-ботом.

В прошлом году его мать рассказала CBS News, что её сын стал замкнутым в себе и перестал заниматься спортом после того, как начал общаться с чат-ботом на основе искусственного интеллекта. Компания заявила, что после смерти подростка внесла изменения, согласно которым для создания учётной записи требуется, чтобы пользователи были старше 13 лет, и что родительский контроль будет запущен в первом квартале 2025 года. Этот контроль был внедрён в марте.

За несколько часов до слушаний в Сенате компания OpenAI пообещала внедрить новые меры защиты для подростков, включая определение возраста пользователей ChatGPT до 18 лет и контроль, позволяющий родителям устанавливать «часы отключения», когда подростки не могут пользоваться ChatGPT. Компания заявила, что попытается связаться с родителями пользователей младше 18 лет, если у них возникнут суицидальные мысли, а если связаться с ними не получится, обратится в правоохранительные органы в случае угрозы причинения вреда.

«Мы считаем, что несовершеннолетним необходима серьезная защита», — заявил генеральный директор OpenAI Сэм Альтман в заявлении, в котором излагаются предлагаемые изменения.

Группы по защите прав детей раскритиковали это заявление, назвав его недостаточным.

«Это довольно распространённая тактика, к которой Meta прибегает постоянно, — сделать громкое заявление прямо накануне слушания, которое может нанести ущерб компании», — заявил Джош Голин, исполнительный директор Fairplay, группы, выступающей за безопасность детей в Интернете.

«Им следует не предлагать ChatGPT несовершеннолетним, пока они не докажут его безопасность для них», — сказал Голин. «Мы не должны позволять компаниям, располагающим огромными ресурсами, проводить неконтролируемые эксперименты на детях, когда последствия для их развития могут быть столь масштабными и далеко идущими».

Сенатор штата Калифорния Стив Падилла, который представил законопроект о создании защитных мер в штате в отношении чат-ботов на основе искусственного интеллекта, заявил в своем заявлении для CBS News: «Нам необходимо создать разумные меры безопасности, которые сдержат худшие проявления этой новой технологии, которую даже технологическая отрасль не до конца понимает».

Он добавил, что технологические компании могут стать мировыми лидерами в области инноваций, но это не должно происходить за счет «здоровья наших детей».

На прошлой неделе Федеральная торговая комиссия заявила, что начала расследование в отношении нескольких компаний по поводу потенциального вреда для детей и подростков, которые используют в качестве компаньонов чат-ботов на основе искусственного интеллекта.

Агентство направило письма в Character, Meta и OpenAI, а также в Google, Snap и xAI.

Если вы или кто-то из ваших знакомых испытывает эмоциональный стресс или суицидальный кризис, вы можете обратиться на горячую линию 988 по вопросам самоубийств и кризисов, позвонив или отправив сообщение на номер 988. Вы также можете пообщаться с горячей линией 988 по вопросам самоубийств и кризисов здесь. Для получения дополнительной информации о ресурсах и поддержке в области психического здоровья обратитесь на горячую линию Национального альянса по психическим заболеваниям (NAMI) с понедельника по пятницу с 10:00 до 22:00 по восточному времени по телефону 1-800-950-NAMI (6264) или по электронной почте [email protected].

В подготовке материала принимала участие Кара Табачник .