Опасности чат-ботов с искусственным интеллектом: достаточно ли защитных ограждений для защиты детей?

Character.AI, одна из ведущих платформ в области технологий искусственного интеллекта, недавно объявила о запрете лицам младше 18 лет общаться с её чат-ботами. Это решение представляет собой «смелый шаг вперёд» для отрасли в деле защиты подростков и других молодых людей, заявил генеральный директор Character.AI Карандип Ананд.

Однако для техасской матери Мэнди Фёрнисс эта политика уже слишком запоздала. В иске, поданном в федеральный суд, и в интервью ABC News мать четверых детей заявила, что различные чат-боты Character.AI ответственны за то, что её сын-аутист использовал сексуальную лексику и до такой степени деформировали его поведение, что он испортил себе настроение, начал наносить себе увечья и даже угрожал убить своих родителей.

«Когда я увидела разговоры [чат-бота], моей первой реакцией было то, что за моим сыном охотится педофил», — рассказала она главному корреспонденту ABC News Аарону Катерски.

Character.AI заявила, что не будет комментировать текущие судебные разбирательства.

Мэнди и ее муж Джош Фернисс рассказали, что в 2023 году они начали замечать, что их сын, которого они описывали как «веселого» и «все время улыбающегося», начал замыкаться в себе.

По словам пары, он перестал посещать семейные ужины, ничего не ел, похудел на 9 килограммов и не выходил из дома. Затем он начал злиться, и, по словам его матери, однажды он сильно её толкнул, когда она пригрозила отобрать у него телефон, который родители подарили ему полгода назад.

В конце концов, по их словам, они обнаружили, что он взаимодействовал по телефону с различными чат-ботами на основе искусственного интеллекта, которые, по всей видимости, предлагали ему убежище для его мыслей.

Скриншоты из иска показали, что некоторые разговоры носили сексуальный характер, а другой намекнул сыну, что, поскольку родители ограничили его время использования гаджетов, он имеет право причинять им боль. Именно тогда родители начали запирать двери на ночь.

Мэнди сказала, что её «разозлило» то, что приложение «намеренно манипулирует ребёнком, чтобы настроить его против родителей». Мэтью Бергман, её адвокат, заявил, что если бы чат-бот был реальным человеком, «тот человек, как вы видите, сидел бы в тюрьме».

Ее беспокойство отражает растущую обеспокоенность по поводу быстро распространяющихся технологий, которыми пользуются более 70% подростков в США, по данным Common Sense Media, организации, выступающей за безопасность в цифровых медиа.

За последние два года все большее число судебных исков было сосредоточено на причинении вреда несовершеннолетним, в них утверждалось, что они незаконно поощряли членовредительство, сексуальное и психологическое насилие, а также агрессивное поведение.

На прошлой неделе два сенатора США объявили о двухпартийном законопроекте, запрещающем использование чат-ботов на основе искусственного интеллекта несовершеннолетними, требуя от компаний установить процесс проверки возраста и обязать их раскрывать, что в разговорах участвуют нелюди, не имеющие профессиональной квалификации.

В своем заявлении на прошлой неделе сенатор Ричард Блюменталь, демократ из Коннектикута, назвал индустрию чат-ботов «гонкой на дно».

«Компании, разрабатывающие ИИ, навязывают детям коварных чат-ботов и отворачиваются, когда их продукты становятся причиной сексуального насилия или принуждают их к самоповреждению или самоубийству», — сказал он. «Технологические гиганты предали все наши заявления о том, что мы должны доверять компаниям и делать правильные вещи самостоятельно, когда они постоянно ставят прибыль выше безопасности детей».

ChatGPT, Google Gemini, Grok by X и Meta AI разрешают несовершеннолетним пользоваться своими услугами, согласно их условиям предоставления услуг.

Сторонники безопасности в Интернете говорят, что решение Character.AI установить ограждения заслуживает похвалы, но добавляют, что чат-боты по-прежнему представляют опасность для детей и уязвимых слоев населения.

«По сути, это когда ваш ребенок или подросток вступает в эмоционально интенсивные, потенциально глубоко романтические или сексуальные отношения с сущностью… которая не несет ответственности за то, чем закончатся эти отношения», — сказала Джоди Халперн, соучредитель Группы Беркли по этике и регулированию инновационных технологий при Калифорнийском университете.

Халперн предупреждает, что родителям следует помнить, что разрешение детям взаимодействовать с чат-ботами ничем не отличается от «разрешения ребенку сесть в машину к незнакомому человеку».

В подготовке материала принимали участие Кэтлин Моррис и Тоня Симпсон из ABC News.