Достижения в области компьютерного зрения направлены на разработку технологий массового наблюдения.

Решающий мяч в финальном теннисном матче между Синнером и Алькарасом . Сотый офсайд, вызванный любым противником команды Барсы Ханси Флика. Или автоматическая коррекция поз, чтобы избежать травм, подобных той, которая помешала Каролине Марин выиграть золото на Парижских играх. Компьютерное зрение уже используется для всего этого. Эта ветвь искусственного интеллекта (ИИ) также стоит за автоматической идентификацией друзей на фотографиях, беспилотными автомобилями и другими новыми революциями, такими как передовая робототехника или открытие новых белков. Но вожделенным объектом искусственного зрения (ИВ) являются люди: согласно исследованию, опубликованному в Nature , ведущем научном журнале, подавляющее большинство исследований ( статьи , на жаргоне) и производных патентов сосредоточены на людях, на идентификации их различных частей, того, что они делают, и среды, в которой они движутся.

Исследователи из нескольких университетов в Соединенных Штатах и ​​Европе собрали тысячи статей , а также тысячи патентов, поданных или зарегистрированных с 1990 года, когда исследования в области компьютерного зрения все еще граничили с научной фантастикой. Тогда извлечение информации из изображения или видео было сложной задачей для машин. Это все еще так, как показало использование визуальных CAPTCHA для подтверждения того, что мы люди. Однако ИИ продвинулся как в своей способности анализировать данные, так и в своей способности интерпретировать их. Существует много областей, в которых используется компьютерное зрение . Это помогает людям . Но у этого есть и обратная сторона, и она огромна.

Используя около тридцати ключевых слов, некоторые из которых были такими явными, как наблюдение или распознавание лиц , а другие менее очевидными, например, iris или airport , исследователи проанализировали 19 000 статей по AV, представленных на крупной ежегодной отраслевой конференции, которая проводилась более 30 лет. Они сделали то же самое с 23 000 зарегистрированных патентов, полученных из этих работ. Первые раскрывают достигнутые успехи, вторые защищают их, так что только их авторы могут извлечь из них выгоду.

Авторы резюмируют результаты в своей статье в Nature : «Мы обнаружили, что 90% статей и 86% полученных патентов извлекали данные, связанные с людьми». Большинство статей, более двух третей, были сосредоточены на получении информации из человеческого тела в целом или из определенных его частей, особенно лица. Другая часть статей и патентов (18% и 16% соответственно) извлекали данные из человеческих пространств, таких как работа, дом или транзитные зоны. Меньший, но не незначительный, 1% (5% для патентов) попадает в категорию, которую исследователи назвали «социально значимыми человеческими данными», которые будут стремиться дать возможность машинам понимать психические состояния, экономический статус, культурную принадлежность и т. д.

Именно помещая эти результаты на временную шкалу, мы обнаруживаем возникновение целой экосистемы автоматизированных технологий массового наблюдения. В начале 1990-х годов они обнаружили всего несколько сотен статей и производных патентов в области ИИ, и едва ли половина из них была сосредоточена на анализе человеческих данных. Два десятилетия спустя годовой объем выпуска статей и патентов утроился, и 78% теперь были сосредоточены на человеческих данных. Объединяя абсолютный рост исследований машинного зрения и относительный рост работы, ориентированной на человека, наука наблюдения ИИ выросла в пять раз.

«Трудно установить четкую причину значительного увеличения количества статей и патентов, связанных с наблюдением», — признает в электронном письме Абеба Бирхане, исследователь из Тринити-колледжа в Дублине (Ирландия) и старший автор этого исследования. Однако она указывает на несколько факторов: «Технический прогресс самой области компьютерного зрения, отсутствие критической и социально сознательной культуры в этой области, институциональные структуры, которые поощряют наблюдение, или магическое мышление, окружающее технологию, которое предполагает, что технологии наблюдения являются решением политических и культурных проблем». Она также упоминает значительное увеличение финансирования из-за интереса, проявленного влиятельными организациями, которые извлекают выгоду из наблюдения, будь то для власти, контроля или финансовой выгоды.

Еще одними данными, которые раскрыли авторы, является концентрация исследований в области ИИ. Лидером являются Соединенные Штаты, проводящие больше исследований, чем все остальные вместе взятые. Несколько отстающие, но намного опережающие третье место страны (Великобритании), находится Китай. Это не должно удивлять. С одной стороны, они являются двумя технологическими сверхдержавами, независимо от цели или использования рассматриваемой технологии. Кроме того, авторитарный характер китайского режима и связь между военными и оборонными предприятиями США и передовой наукой объяснили бы все остальное. Фактически, два наиболее важных игрока в области ИИ следующего поколения (не обязательно связанных с компьютерным зрением), Palantir и Anduril, сотрудничают с национальной безопасностью США . Первый уже разрабатывает систему для администрации Трампа , нацеленную на иммигрантов. А OpenAI, создатель ChatGPT, недавно подписал соглашение с Министерством обороны США .

В комментарии, также опубликованном в Nature , исследователь из Университета Монаша (Австралия) Джатан Садовски, который не принимал участия в этом исследовании, обсуждает одно из его открытий. Авторы проанализировали эволюцию языка, используемого в статьях и патентах, обнаружив тенденцию затемнять их цель все более нейтральными словами или полностью исключать их. Например, ссылки на людей появляются все реже и реже, хотя они являются предметом исследований, и заменяются такими терминами, как «объекты ».

«Обращение к людям как к объектам можно считать простым инженерным сокращением», — пишет Садовски. Это вписывалось бы в более общую тенденцию в технологическом языке. Но для этого ученого эти бесчеловечные практики нельзя игнорировать: «Эти технологии создаются в политическом и экономическом ландшафте, в котором интересы крупных корпораций, военных и правоохранительных органов оказывают огромное влияние на разработку и использование систем ИИ».