Я создал эту «ИИ-тетю» для женщин после семейной трагедии в Южной Африке
Ужасное убийство в собственной семье вдохновило южноафриканку Леонору Тиму на создание цифровой платформы, где люди, в основном женщины, могут рассказывать о случаях насилия и отслеживать их.
Родственнице Леоноры было всего 19 лет, и она была на девятом месяце беременности, когда ее убили, а ее тело бросили на обочине шоссе недалеко от Кейптауна в 2020 году.
«Я работаю в сфере развития, поэтому мне приходилось видеть насилие», — говорит Леонора. «Но больше всего меня поразило то, что насильственная смерть члена моей семьи была воспринята в южноафриканском обществе как нечто совершенно нормальное».
«О ее смерти не сообщило ни одно новостное агентство, поскольку количество подобных случаев в нашей стране таково, что это не может считаться новостью».
Убийцу так и не поймали, а то, что Леонора восприняла как молчаливое принятие насильственной смерти женщины, стало катализатором для ее приложения «Гендерные права в технологиях» (Grit), в котором используется чат-бот по имени Зузи.
Это один из первых бесплатных инструментов искусственного интеллекта, созданных африканскими разработчиками для борьбы с гендерным насилием.
«Это африканское решение, разработанное совместно с африканскими сообществами», — говорит Леонора.
Цель — оказать поддержку и помочь собрать доказательства, которые впоследствии могут быть использованы в судебных делах против насильников.
Инициатива набирает популярность среди международных активистов по защите прав женщин, хотя некоторые из них предупреждают, что чат-боты не следует использовать для замены человеческой поддержки, подчеркивая, что пострадавшим необходимы сочувствие, понимание и эмоциональная связь, которые может обеспечить только обученный специалист.
Леонора и ее небольшая команда посетили общины в поселках вокруг ее дома в Кейптауне, поговорив с жителями об их опыте насилия и о том, как технологии проникают в их жизнь.
Они опросили более 800 человек, как они используют свои телефоны и социальные сети, чтобы говорить о насилии, и что мешает им обратиться за помощью.
Леонора обнаружила, что люди хотели говорить о пережитом насилии, но «опасались традиционных путей, таких как обращение в полицию».
«Некоторые женщины писали об этом на Facebook и даже отмечали своего обидчика, но в ответ получали обвинения в клевете», — говорит она.
Она считает, что существующие системы дважды подводят жертв: сначала не предотвращая само насилие, а затем, когда жертвы пытаются высказаться.
При финансовой и технической поддержке Mozilla, Фонда Гейтса и Фонда Патрика Макговерна Леонора и ее команда начали разработку Grit — мобильного приложения, которое могло бы помочь людям фиксировать, сообщать и получать ответ на случаи насилия во время их совершения.
Приложение бесплатное, но для его загрузки требуется мобильный интернет. Команда Леоноры сообщает, что у неё 13 000 пользователей, и в сентябре было получено около 10 000 запросов на помощь.
В основе Grit лежат три ключевые особенности.
На главном экране находится большая круглая кнопка помощи. При нажатии на неё автоматически начинается запись 20-секундного аудио, фиксирующего происходящее вокруг пользователя. Одновременно с этим отправляется оповещение в частный колл-центр быстрого реагирования (профессиональные службы быстрого реагирования широко распространены в Южной Африке), где обученный оператор звонит пользователю.
Если позвонившему требуется немедленная помощь, группа реагирования либо сама направляет кого-то на место происшествия, либо связывается с местной организацией, которая может оказать помощь пострадавшему.
Леонора говорит, что приложение было создано с учётом потребностей жертв насилия: «Нам нужно завоевать доверие людей. Эти сообщества часто игнорируются. Мы многого требуем от людей, когда дело касается обмена данными».
На вопрос о том, использовалась ли функция помощи не по назначению, она признает, что было несколько любопытных нажатий — люди проверяли, работает ли она на самом деле, — но ничего такого, что она бы назвала злоупотреблением системой.
«Люди осторожны. Они проверяют нас так же, как мы тестируем технологии», — говорит она.
Вторым элементом Grit является «хранилище», которое, по словам Леоноры, представляет собой защищенное цифровое пространство, где пользователи могут хранить доказательства насилия, датированные и зашифрованные, для возможного использования в дальнейшем в судебных разбирательствах.
Фотографии, снимки экрана и голосовые записи можно загружать и сохранять в конфиденциальном порядке, защищая важные доказательства от удаления или подделки.
«Иногда женщины фотографируют травмы или сохраняют угрожающие сообщения, но они могут потеряться или быть удалёнными», — говорит Леонора. «В хранилище улики хранятся не только на телефоне, который можно отобрать или уничтожить».
В этом месяце Grit снова расширится благодаря запуску своей третьей функции — Zuzi, чат-бота на базе искусственного интеллекта, который будет слушать, консультировать и направлять пользователей к местным службам поддержки.
«Мы спрашивали людей: „Должна ли это быть женщина? Должна ли это быть мужчина? Должна ли это быть робот? Должна ли она звучать как голос юриста, социального работника, журналиста или другой авторитетной фигуры?“» — объясняет Леонора.
Люди говорили им, что хотят, чтобы Зузи стала «фигурой тети» — кем-то теплым и заслуживающим доверия, которому они могли бы довериться, не опасаясь осуждения.
Несмотря на то, что Zuzi был создан в первую очередь для женщин, подвергшихся насилию, на этапе тестирования к нему также прибегали мужчины, ищущие помощи.
«Некоторые разговоры ведутся между мужчинами, совершившими насилие, и теми, кто просит Зузи научить их, как справиться с гневом, который они часто направляют на своих партнёрш», — объясняет Леонора. «Есть также мужчины, ставшие жертвами насилия и использующие Зузи, чтобы более открыто рассказать о своём опыте».
«Людям нравится общаться с ИИ, потому что они не чувствуют, что он их осуждает», — добавляет она. «Это не человек».
По данным организации «ООН-женщины», в Южной Африке наблюдается один из самых высоких в мире уровней гендерного насилия (ГН), а уровень фемицида в пять раз превышает среднемировой показатель. По данным южноафриканской полиции, в период с 2015 по 2020 год в среднем ежедневно погибало семь женщин.
Многие, включая Лизу Веттен, специалиста по гендерному насилию в Южной Африке, сходятся во мнении, что технологии неизбежно сыграют свою роль в решении этой проблемы.
Однако она также предупреждает об осторожности при использовании ИИ в оказании помощи при травмах.
«Я называю их большими языковыми моделями, а не искусственным интеллектом, потому что они занимаются лингвистическим анализом и прогнозированием — и ничем более», — говорит она.
Она понимает, как системы искусственного интеллекта могут помочь, но знает примеры, когда другие чат-боты на основе искусственного интеллекта давали женщинам неверные советы.
«Меня беспокоит, когда они дают женщинам очень уверенные ответы на их юридические вопросы», — говорит она. «Чат-боты могут предоставить полезную информацию, но они не способны справиться со сложными, многогранными проблемами. Самое главное, они не заменяют человеческую психологическую помощь. Людям, пострадавшим от насилия, нужно помочь научиться доверять другим людям и чувствовать себя в безопасности».
Подход Грита привлек международное внимание.
В октябре Леонора и её команда представили своё приложение на Феминистской конференции по внешней политике, организованной французским правительством в Париже. Мировые лидеры встретились, чтобы обсудить, как технологии и политика могут быть использованы для построения мира с более равным гендерным равенством. На конференции 31 страна подписала обязательство сделать борьбу с гендерным насилием одним из ключевых политических приоритетов.
Разговоры вокруг использования искусственного интеллекта идут полным ходом, говорит Лирик Томпсон, основательница и глава организации Feminist Foreign Policy Collaborative, «но как только вы пытаетесь включить в разговор гендерные вопросы, поднять опасность расистских, сексистских и ксенофобских предрассудков, глаза стекленеют, и разговор переходит, скорее всего, в дальний угол, где нет надоедливых женщин, которые могли бы поднять этот вопрос».
Хизер Херлберт — научный сотрудник Chatham House, специализирующаяся на ИИ и его применении в технологиях, согласна с тем, что ИИ «обладает огромным потенциалом как для выявления и устранения гендерной дискриминации и гендерного насилия, так и для укрепления женоненавистничества и неравенства», но добавляет, что то, каким путем мы пойдем, «во многом зависит от нас».
Леонора ясно понимает, что успех ИИ в борьбе с гендерным насилием зависит не только от инженерных решений, но и от того, кто в первую очередь разрабатывает технологию.
В отчете Всемирного экономического форума 2018 года говорится, что во всем мире женщины составляют лишь 22% специалистов в области ИИ. Эта статистика по-прежнему часто приводится.
«Искусственный интеллект в том виде, в котором мы его знаем сейчас, был создан на основе исторических данных, в которых основное внимание уделяется голосам мужчин, в частности белых мужчин», — говорит Леонора.
«Ответ не только в том, чтобы привлечь больше женщин-творцов. Нам также нужны цветные женщины-творцы, больше женщин с глобального юга и больше из менее привилегированных социально-экономических слоёв».
Только тогда, заключает Леонора Тима, технология сможет начать отражать реалии тех, кто ею пользуется.
BBC
