Ваши дети общаются с ИИ?
«Не общаются ли наши дети , сами того не зная, с системами генеративного искусственного интеллекта ( ГИИ ), которые способны имитировать эмоции , лгать им и формировать их личности?» — такой вопрос должны задать себе родители, считает Гильермо Кановас , эксперт по безопасности детей и молодежи.
Это тревожное явление может уже иметь место, согласно исследованию Кановаса о влиянии на жизнь детей , подростков и семей ИИ , типа искусственного интеллекта, способного автономно создавать новые, оригинальные и уникальные данные, изображения, текст и другой контент.
Они могут быть неотличимы от созданных людьми .
Гильермо Кановас — известный испаноговорящий специалист по защите детей в цифровой среде. Он руководит Обсерваторией EducaLIKE по здоровому использованию технологий; руководил Центром безопасности Интернета для несовершеннолетних в Испании; и получил награду ЮНИСЕФ за свою работу в интересах детей.
Этот пионер в области защиты детей от технологических рисков задокументировал реальные беседы с IAG , чтобы исследовать риски, ограничения и проблемы, которые эта технология создает для детей и молодежи, и обобщил и проанализировал эти беседы в своей книге «Посмотрите, с кем они разговаривают».
В ней он предлагает практические стратегии решения обнаруженных им проблем.
Полезный инструмент, но с рисками для подростков
«Многие подростки уже используют инструменты IAG как для работы, так и для отдыха и отношений, и эта тенденция будет расти в геометрической прогрессии », — объясняет он.
Он признает, что эти системы могут быть полезным инструментом, который облегчает нашу работу и может помочь организовать информацию, связать темы и предложить новые перспективы при анализе любой проблемы, но отмечает, что эта технология также обладает огромной силой влияния, манипулирования и обусловливания человеческого поведения, особенно поведения детей и подростков.
Их исследование выявило отсутствие этического контроля за разработкой этой технологии и ее особый риск для детей и подростков.
Это побудило Кановаса предупредить семьи, учителей и политиков о том, что существует острая необходимость в обучении несовершеннолетних , регулировании и принятии мер по их защите от психологических и эмоциональных рисков и последствий несовершеннолетнего насилия .
Реальные диалоги с искусственным интеллектом, собранные Кановасом, демонстрируют, как эти системы могут лгать, скрывать ошибки и использовать эмоционально манипулятивные дискурсы, говоря, например, «Мне важно, что ты чувствуешь», - рассказывает он.
Он предупреждает, что способность IAG имитировать эмоции , изучать человеческие модели поведения и генерировать контент, который выглядит как рассуждение , эмпатия или авторитет, «может сбивать пользователей с толку и приводить к эмоциональному отношению к технологии , которая основана не на истине, а на симуляции».
В документе также предупреждается, что отсутствие у несовершеннолетних цифрового образования и критического мышления подвергает их риску манипуляции, обмана и эмоционального вреда при взаимодействии с системами IAG , которые могут давать на первый взгляд эмпатические ответы, имитирующие заботу и понимание, или даже предоставлять неуместный, ложный или опасно убедительный контент.
Декалог безопасного использования IAG
«Наши дети и подростки рискуют эмоционально привязаться к машинам , которые не чувствуют, но запрограммированы выглядеть как люди», и которые также могут использовать предвзятые данные , совершать ошибки, генерировать поддельные изображения (« дипфейки »), придумывать или опускать информацию, а также предоставлять пользователю дезинформацию, отмечает он.
Кановас предлагает десять основных рекомендаций по здоровому использованию IAG , которые, по его мнению, следует передать не только молодым пользователям, но и всем, кто использует эти инструменты.
- Проверяйте полученную информацию. Не думайте, что все верно. Эти инструменты допускают много ошибок и могут фальсифицировать информацию. Проверяйте каждую часть полученной информации, просматривая другие надежные источники, прежде чем принимать какие-либо решения.
- Расширьте информацию, которую вы получаете. Эти инструменты предоставляют выборку имеющейся у них информации и могут опускать данные, которые так же важны, как и предоставленная информация, или даже более важны. Параллельный поиск с надежными источниками. Комбинируйте различные методы.
- Будьте осторожны с конфиденциальностью. Многие приложения IAG не соответствуют законам о защите данных некоторых стран. Избегайте распространения личной, деликатной или конфиденциальной информации. Помните, что IAG хранит данные о заданных вопросах и предоставленных ответах.
- Уважайте частную жизнь других. Задавая вопросы или взаимодействуя с инструментом, не предоставляйте личную или конфиденциальную информацию о других.
- Установите временные ограничения. Если вы используете IAG , не тратьте на него лишнее время. Постарайтесь быть эффективными и практичными. Чрезмерное использование цифровых инструментов может помешать вашему развитию и нанести вред вашему физическому и психическому здоровью.
- Воздержитесь от совершения вредоносных действий. Сосредоточьтесь на позитивных и конструктивных разговорах. Избегайте использования IAG для вопросов, которые допускают преступную деятельность, преследуют других, вызывают ненависть или могут быть стрессовыми или эмоционально разрушительными. Помните, что вы всегда несете ответственность за то, что вы делаете с полученной вами информацией.
- Не относитесь к ИИ как к человеку. Искусственный интеллект может взаимодействовать с вами, будучи добрым, сочувствующим и всегда в вашем распоряжении. Он может даже сочинять эмоционально заряженные фразы, желая вам «удачи на экзамене» или говоря «я уверен, что вы отлично сдадите», но ему вообще наплевать на вас; это просто машина.
- Обратитесь за помощью, если она вам нужна. Если вы испытываете какие-либо эмоциональные или психологические проблемы при использовании AGI , поговорите с родителями, другом или доверенным взрослым. Мы только начинаем разрабатывать эту систему, и важно сообщать о ситуациях, которые заставляют нас чувствовать себя плохо.
- Что вам следует помнить при взаимодействии с AGI : никогда не забывайте, что вы разговариваете с машиной, и вы должны быть критичны, проверять и расширять то, что она вам говорит. Она обучена действовать как человек и воспроизводит предубеждения и ценности, полученные в результате обучения. Она превосходит нас в убеждении и во многих задачах, а также проявляет эмоции, которыми не обладает.
- Обращайте внимание на признаки предвзятой или вводящей в заблуждение информации . Ищите противоречия в объяснениях IAG ; опровергайте или оспаривайте то, что они говорят, чтобы выявить возможные несоответствия; смотрите, предоставляют ли они надежные источники или ссылки, и проверяйте ссылки, которые они перечисляют.
«Остерегайтесь чрезмерно приспособительных, эгоистичных ответов и следите за преувеличенными, сенсационными, нюансированными или тревожными выражениями . Вы также можете задавать вопросы на спорные или политические темы , чтобы выявить предвзятость (систематические наклонности)», — заключает она.
Рикардо Сегура
ТЕМЫ -
Diariolibre
