Сможет ли искусственный интеллект помочь Канаде или погубить её? Новаторы и исследователи призывают к усилению мер безопасности.
Поскольку правительство Карни продвигает искусственный интеллект в рамках своих усилий по росту канадской экономики, некоторые изобретатели, использующие эту технологию, и эксперты, изучающие ее воздействие, призывают Оттаву установить больше защитных ограждений — и федеральное правительство активно изучает этот вопрос.
«Честно говоря, существующие у нас сейчас ограничения — это те, которые устанавливают сами крупные технологические компании, и мы видим, что их недостаточно», — заявила Валери Пизано, генеральный директор монреальского института искусственного интеллекта Mila, некоммерческой организации, которая занимается развитием искусственного интеллекта на благо всех.
В интервью программе The House на канале CBC, которое вышло в эфир в субботу утром, Пизано заявила, что ее цель — найти «какую-то защиту в мире, где мы позволяем компаниям делать все, что они хотят, не препятствуя инновациям».
«Мы знаем, как это сделать», — сказал Пизано. «Мы уже делали это во всех остальных влиятельных, инновационных и преобразующих отраслях. Мы сделали это в авиации, в фармацевтике, в атомной энергетике».
Пизано отметила, что она внимательно следит за рядом рисков, связанных с быстрым развитием искусственного интеллекта, включая то, как дети взаимодействуют с технологией, воздействие центров обработки данных ИИ на окружающую среду и его потенциальную возможность вытеснить молодых работников.
«Я заметил, что всё больше людей вступают в интимные отношения с ИИ-ботами, — сказал Пизано. — Меня беспокоит то, что это происходит впервые… это совершенно ново».
В данном случае, по словам Пизано, искусственный интеллект может стать силой добра, где молодой человек, испытывающий трудности в общении, может использовать взаимодействие с чат-ботом на основе искусственного интеллекта для укрепления своих социальных навыков. Но для этого ему потребуется дополнительная поддержка.
«Я могу также взглянуть на вещи совершенно по-другому, и то, что я вижу, ужасает. Это полная оторванность от человеческого общения», — сказал Пизано.
Эту обеспокоенность, среди прочих, федеральное правительство внимательно изучает и ищет наилучшие пути ее решения, сообщил Палате представителей министр искусств Эван Соломон.
«Я прекрасно понимаю, что дети могут быть в опасности, — сказал Соломон ведущей Кэтрин Каллен. — Но нам просто нужно понять, как правильно использовать этот инструмент».
«Я не хочу говорить: „Это всё шумиха, всё конфетти, всё будет здорово“ или „Это провал“ — мы должны мыслить практично, — сказал Соломон. — Нам нужно разработать план и сделать всё правильно, потому что мы многое контролируем».
По словам Соломона, этот план будет разработан различными департаментами федерального правительства.
Он пояснил, что его ведомство отвечает за конфиденциальность данных, и он внесет законопроект по этому вопросу до конца года.
Соломон добавил, что министр наследия Стивен Гильбо занимается вопросами онлайн-вреда, а министр юстиции Шон Фрейзер занимается изменениями в Уголовном кодексе.
Либеральное правительство также дало своей новой целевой группе по стратегии в области ИИ срок до конца месяца, чтобы проконсультироваться с представителями своих сетей и представить свои идеи в ноябре. Соломон выразил надежду, что обновлённая национальная стратегия в области ИИ будет готова к концу этого года.
Группе было поручено рассмотреть различные аспекты ИИ, включая исследования, внедрение, коммерциализацию, инвестиции, инфраструктуру, навыки и безопасность. Правительство также проводит публичные консультации по своей стратегии в области ИИ.
Критики целевой группы на этой неделе заявили изданию The Canadian Press, что она слишком полагается на точку зрения промышленности и технологического сектора, и указали на то, что только трое из более чем двух десятков ее членов получили задание поработать над безопасными системами ИИ и общественным доверием.
Изобретатель повторяет призыв к мерам безопасностиФредерик Леблон из Больничного центра Университета Монреаля рассказал, что устройство, которое он изобрел в соавторстве, — портативный инструмент под названием Sentry, сочетающий лазер с искусственным интеллектом для определения в режиме реального времени, является ли ткань раковой или здоровой, — используется при проведении до пяти операций в неделю.
«Это может быть использовано для гарантии отсутствия остаточной опухоли после операции», — сказал Леблон. «Это может, например, помочь избежать повторной операции, а в некоторых случаях, возможно, и вылечить [пациента] хирургическим путём».
Леблон сказал, что Sentry посылает сложные сигналы об анализируемой ткани, а ИИ используется для предотвращения ошибок. Он отметил, что ИИ «должен и будет» помогать в принятии решений, но не будет контролировать их окончательное принятие.
«Необходимы какие-то защитные ограждения, — сказал Леблон. — Должен быть эксперт, который сможет это исправить».
По словам Леблона, искусственный интеллект в канадском здравоохранении может стать преобразовательным потенциалом, однако необходимо разработать новые руководящие принципы регулирования этой технологии, чтобы исключить такие проблемы, как предвзятость ИИ — например, алгоритм, обучаемый только на данных молодых людей.
«Таких примеров много, и я думаю, что это необходимо включить в правила», — сказал он.
ИИ и экологические рискиЧтобы Канаде масштабировать свою отрасль искусственного интеллекта, ей потребуется гораздо больше вычислительной мощности — и здесь в игру вступают центры обработки данных.
В конце прошлого года федеральное правительство запустило Канадскую стратегию суверенных вычислений в области ИИ , в рамках которой, по его словам, будет инвестировано до 700 миллионов долларов в «развитие канадских лидеров в области ИИ за счет инвестиций» в новые или расширенные центры обработки данных.
Хамиш ван дер Вен, доцент кафедры устойчивого управления природными ресурсами в Университете Британской Колумбии, отметил, что центры обработки данных испытывают огромные потребности в электроэнергии, и он сомневается в ее ценности.
«Хорошо, что некоторые центры обработки данных полагаются на чистую энергию, но это не мешает тем, кто работает на более грязных, более углеродоемких видах энергии, открыться и потенциально превзойти тех, кто работает с чистыми источниками энергии», — сказал он.
Ранее в этом году Международное энергетическое агентство прогнозировало, что к 2030 году спрос на электроэнергию со стороны центров обработки данных по всему миру увеличится более чем вдвое и составит около 945 тераватт-часов — это чуть больше, чем все потребление электроэнергии в Японии.
Если Канада решит, что центры обработки данных будут играть определенную роль в будущем ее экономики, «они должны быть встроены в строгую нормативную базу, которая соответствует принципу предосторожности и требует нулевых чистых выбросов и отсутствия нового спроса на энергосистему», — сказал ван дер Вен.
Анджела Адам, старший вице-президент eStruxture, крупнейшего поставщика центров обработки данных в Канаде, заявила Палате представителей , что центры обработки данных являются «самым базовым уровнем» для новаторов, создающих продукты на базе ИИ.
Она также заявила, что центры обработки данных, расположенные в Канаде, могут безопасно хранить данные канадцев, поскольку они подчиняются канадским законам. Этот аспект имеет решающее значение для плана Карни по созданию «суверенного облака», которое предоставит пользователям больший контроль над тем, где находятся их данные.
«Когда вы владеете своими данными, вы владеете своей судьбой», — сказал Адам. «Центры обработки данных и сами данные сейчас — это вопросы национальной безопасности, и на то есть веские причины».
На вопрос об экологических проблемах Адам ответила, что её компания заботится о чистом энергоснабжении, а eStruxture «всегда была приверженцем принципов устойчивого развития, но нам нужно больше электроэнергии. Это факт».
«Потребность в электроэнергии не снизится», — сказал Адам. «То, как мы взаимодействуем с правительствами, производителями электроэнергии и регулирующими органами, — это уже другая история. Нам нужно объединить усилия и найти способ обеспечить эти рабочие нагрузки максимально устойчивым способом».
На вопрос, будет ли Канада вводить ограничения на потребление энергии центрами обработки данных, Соломон ответил, что это, прежде всего, ответственность провинций. Однако он отметил, что если центр обработки данных подключен к канадской электросети, он обязан соблюдать правила использования чистой электроэнергии .
Соломон также заявил, что Канада рассматривает предложения о том, как будет выглядеть суверенное облако или суверенный центр обработки данных, «и, естественно, мы хотим соблюдать наши правила в отношении чистой энергии. Эти факторы мы учитываем».
cbc.ca
