WhatsApp балансирует на грани между функциями ИИ и конфиденциальностью

Сквозное зашифрованное коммуникационное приложение WhatsApp , которым пользуются около 3 миллиардов человек по всему миру, в ближайшие недели запустит облачные возможности искусственного интеллекта, которые призваны сохранить основные гарантии безопасности и конфиденциальности WhatsApp, а также предоставить пользователям доступ к инструментам для резюмирования и составления сообщений.

Meta внедряет функции генеративного ИИ в свои сервисы, которые построены на его модели большого языка с открытым исходным кодом Llama . А WhatsApp уже включает в себя светло-голубой круг, который дает пользователям доступ к помощнику Meta AI. Но многие пользователи воспротивились этому дополнению , учитывая, что взаимодействие с помощником AI не защищено от Meta так, как защищены сквозные зашифрованные чаты WhatsApp. Новая функция, получившая название Private Processing, призвана решить эти проблемы с помощью того, что компания называет тщательно спроектированной и специально созданной платформой, предназначенной для обработки данных для задач ИИ без доступа к информации Meta, WhatsApp или любой другой стороне. Хотя первоначальные обзоры исследователей целостности схемы были положительными, некоторые отмечают, что переход к функциям ИИ может в конечном итоге поставить WhatsApp на скользкий путь.

«WhatsApp является объектом внимания и внимания множества различных исследователей и субъектов угроз. Это означает, что внутри у него хорошо понятная модель угроз», — говорит директор по инженерной безопасности Meta Крис Рольф. «Также существует набор ожиданий пользователей в отношении конфиденциальности, поэтому речь шла не только об управлении расширением этой модели угроз и обеспечении соответствия ожиданиям в отношении конфиденциальности и безопасности — речь шла о тщательном рассмотрении пользовательского опыта и принятии решения о согласии».

Сквозное шифрование сообщений доступно только отправителю и получателю или людям в групповом чате. Поставщик услуг, в данном случае WhatsApp и его материнская компания Meta, по замыслу изолированы и не могут получить доступ к сообщениям или звонкам пользователей. Такая настройка несовместима с типичными платформами генеративного ИИ, которые запускают большие языковые модели на облачных серверах и нуждаются в доступе к запросам и данным пользователей для обработки. Целью Private Processing является создание альтернативной структуры, с помощью которой можно поддерживать гарантии конфиденциальности и безопасности сквозного шифрования сообщений при включении ИИ.

Пользователи соглашаются использовать функции искусственного интеллекта в WhatsApp, а также могут запретить своим собеседникам использовать функции искусственного интеллекта в общих сообщениях, включив новый элемент управления WhatsApp, известный как «Расширенная конфиденциальность чата».

«Когда эта настройка включена, вы можете запретить другим экспортировать чаты, автоматически загружать медиа на свой телефон и использовать сообщения для функций ИИ», — написал WhatsApp в своем блоге на прошлой неделе. Как и в случае с исчезающими сообщениями, любой участник чата может включать и выключать функцию Advanced Chat Privacy, которая записывается для всеобщего обозрения, поэтому участникам просто нужно быть внимательными к любым изменениям.

Private Processing построен на специальном оборудовании, которое изолирует конфиденциальные данные в «доверенной среде выполнения», изолированной, заблокированной области процессора. Система создана для обработки и хранения данных в течение минимально возможного времени и спроектирована так, чтобы останавливаться и отправлять оповещения, если она обнаруживает какие-либо несанкционированные действия или корректировки. WhatsApp уже приглашает сторонние аудиты различных компонентов системы и сделает ее частью программы Meta bug bounty, чтобы побудить сообщество по безопасности предоставлять информацию о недостатках и потенциальных уязвимостях. Meta также заявляет, что в конечном итоге планирует сделать компоненты Private Processing открытыми, как для расширенной проверки своих гарантий безопасности и конфиденциальности, так и для того, чтобы другим было проще создавать аналогичные сервисы.

В прошлом году Apple дебютировала с похожей схемой , известной как Private Cloud Compute, для своей платформы Apple Intelligence AI. И пользователи могут включить эту услугу в сквозном зашифрованном коммуникационном приложении Apple Messages, чтобы генерировать сводки сообщений и составлять сообщения «Smart Reply» как на iPhone , так и на Mac .

Однако, если рассматривать Private Cloud Compute и Private Processing бок о бок, это все равно, что сравнивать, ну, Apple(s) и апельсины. Private Cloud Compute от Apple лежит в основе всего Apple Intelligence везде, где его можно применить. Private Processing, с другой стороны, был специально разработан для WhatsApp и не лежит в основе функций искусственного интеллекта Meta в более широком смысле. Apple Intelligence также разработан для выполнения как можно большего объема обработки искусственного интеллекта на устройстве и отправки запросов в инфраструктуру Private Cloud Compute только при необходимости. Поскольку такая обработка «на устройстве» или «локальная» требует мощного оборудования, Apple разработала Apple Intelligence только для работы на своих последних поколениях мобильного оборудования. Старые iPhone и iPad никогда не будут поддерживать Apple Intelligence.

Apple — производитель смартфонов и другого оборудования высокого класса, а Meta — компания-разработчик программного обеспечения, у которой около 3 миллиардов пользователей, у которых есть все типы смартфонов, включая старые и бюджетные устройства. Рольф и Колин Клеммонс, один из ведущих инженеров Private Processing, говорят, что было невозможно разработать функции ИИ для WhatsApp, которые могли бы работать локально на спектре устройств, обслуживаемых WhatsApp. Вместо этого WhatsApp сосредоточился на разработке Private Processing, чтобы сделать его максимально бесполезным для злоумышленников в случае его взлома.

«Цель проекта — минимизировать риски», — говорит Клеммонс. «Мы хотим минимизировать стоимость компрометации системы».

Однако все эти усилия поднимают более базовый вопрос о том, почему безопасная платформа общения, такая как WhatsApp, вообще должна предлагать функции ИИ. Однако Meta непреклонна в том, что пользователи ожидают эти функции на данном этапе и пойдут куда угодно, чтобы получить их.

«Многие люди хотят использовать инструменты ИИ, чтобы они помогали им при обмене сообщениями», — сообщил WIRED в электронном письме глава WhatsApp Уилл Кэткарт. «Мы считаем, что важно создать приватный способ сделать это, потому что людям не придется переходить на менее приватную платформу, чтобы получить необходимую им функциональность».

«Любая система сквозного шифрования, использующая вывод искусственного интеллекта вне устройства, будет более рискованной, чем чистая система сквозного шифрования. Вы отправляете данные на компьютер в центре обработки данных, и эта машина видит ваши личные сообщения», — говорит Мэтт Грин, криптограф из Университета Джонса Хопкинса, который ознакомился с некоторыми гарантиями конфиденциальности Private Processing, но не проводил аудит всей системы. «Я верю WhatsApp, когда они говорят, что они разработали это так, чтобы быть максимально безопасным, и я верю им, когда они говорят, что не могут читать ваши сообщения. Но я также думаю, что здесь есть риски. Больше личных данных будет уходить с устройства, и машины, которые обрабатывают эти данные, станут целью для хакеров и противников государства».

WhatsApp также заявляет, что, помимо базовых функций ИИ, таких как резюмирование текста и предложения по написанию, Private Processing, как мы надеемся, создаст основу для расширения в будущем более сложных и комплексных функций ИИ, которые подразумевают обработку и, возможно, хранение большего количества данных.

Как говорит Грин: «Учитывая все безумные вещи, для которых люди используют защищенные мессенджеры, все это превратит компьютеры Private Processing в очень серьезную цель».