Ранее на этой неделе компания Microsoft анонсировала новую ИИ-функцию в Windows 11, которая получила название Recall. Она фиксирует всю активность пользователя компьютера, а затем позволяет формировать отчеты и выполнять поиск по истории за последние три месяца. ИБ-эксперты уже называют Recall кошмаром с точки зрения конфиденциальности и безопасности.
Recall и Copilot+
Функция Recall была анонсирована 20 мая 2024 года, в рамках мероприятия, предваряющего скорый старт конференции Microsoft Build 2024.
В этом году компания всецело сосредоточена на искусственном интеллекте и Copilot, поэтому одним из главных анонсов недели стали компьютеры Copilot+, а также функция Recall, которая появится в Windows 11 (и будет работать как раз на машинах Copilot+).
Recall создана, чтобы помочь «вспомнить» любую информацию, которую пользователь просматривал в прошлом, и сделать ее доступной с помощью простого поиска. Так, функция делает снимок активного окна на экране каждые несколько секунд, записывая все, что происходит в Windows, будь то просмотр сайтов в браузере, общение в мессенджере или работа с другими приложениями. По умолчанию эти данные хранятся до трех месяцев (старые скриншоты будут заменяться новыми), и пользователь сможет выбирать, в каких приложениях можно делать снимки. Для работы Recall потребуется HDD или SSD объемом не менее 256 ГБ и как минимум 50 ГБ свободного места.
Полученные снимки будут обрабатываться нейронным процессором (Neural Processing Unit, NPU) устройства и ИИ-моделью для извлечения данных со скриншотов. Затем информация будет сохранена, и пользователи Windows смогут просматривать как историю скриншотов, так и осуществлять поиск по истории с помощью запросов на родном языке. В теории, это позволит легко найти, к примеру, прочитанное в прошлом месяце письмо или посещенный когда-то сайт.
Представители Microsoft подчеркнули, что все собранные данные шифруются с помощью BitLocker, привязанного к учетной записи пользователя в Windows, и не передаются другим пользователям на том же устройстве.
Как уже было упомянуто выше, Recall будет работать только на компьютерах Copilot+ (также встречается написание Copilot Plus), которые компания тоже представила на этой неделе. Такие устройства вскоре будут предлагать Dell, Lenovo, Samsung, HP, Acer и Asus. Кроме того, Microsoft выпустит два собственных устройства, которые войдут в линейку Surface.
В Microsoft заявили, что эти решения способны выполнять более 40 TOPS (триллионов операций в секунду), будут оснащаться нейронным процессором, работать на базе Snapdragon X и Snapdragon X Plus, а также получат не менее 16 ГБ ОЗУ и 256 ГБ SSD. Сообщается, что в дальнейшем таких устройств станет больше благодаря партнерству с Intel и AMD (начиная с Lunar Lake и Strix), а текущие экземпляры уже превосходят MacBook Air на базе M3 почти на 58% по многопоточной производительности.
Критика
Появление Recall вызвало шквал критики, как со стороны обычных пользователей, так и ИБ-специалистов. Хотя в своем анонсе Microsoft подчеркивает, что Recall разработана таким образом, чтобы все данные хранились только на устройстве пользователя в зашифрованном виде, многие полагают, что это создаст серьезные риски для конфиденциальности, и возникнет новый вектор атак, направленных на кражу данных.
«Recall — ключевая часть того, что делает компьютеры Copilot+ особенными, и Microsoft с самого начала заложила конфиденциальность в концепцию Recall, — заявляют разработчики. — На компьютерах Copilot+ с процессором Snapdragon серии X вы увидите значок Recall на панели задач после первой активации устройства. С помощью этого значка можно открыть настройки Recall и выбрать, какие снимки Recall собирает и хранит на вашем устройстве. Вы можете ограничить количество собираемых Recall снимков. Например, можете выбрать определенные приложения или сайты, посещенные в поддерживаемом браузере, чтобы исключить их из своих снимков. Кроме того, вы можете приостановить создание снимков с помощью значка Recall в системном трее, очистить некоторые или все сохраненные снимки, а также удалить все снимки со своего устройства».
Кроме того, Microsoft заявляет, что Recall не будет создавать скриншоты окон в режиме InPrivate в Microsoft Edge (и других браузерах на базе Chromium), а также контента, защищенного DRM. Однако пока в компании не уточнили, будут ли поддерживаться приватные режимы в других браузерах, например, в Firefox.
Словом, в компании уверяют, что индекс Recall будет «приватным, локальным и безопасным» (то есть о передаче данных в облако и на серверы Microsoft речи не идет), а также не будет использоваться для обучения каких-либо моделей искусственного интеллекта, и пользователь сможет «полностью контролировать ситуацию».
Стоит отметить, что Microsoft уже начала предоставлять более подробную техническую информацию о Recall, например, о групповых политиках, которые можно использовать для отключения функции в масштабах компании.
Однако все эти обещания не помогли успокоить сообщество. Функцию критикуют практически все, начиная от простых пользователей (достаточно почитать комментарии к любой публикации о Recall и убедиться, что пользователи не доверяют заявлениям Microsoft) до Илона Маска, который уже сравнил анонс Recall с эпизодом сериала «Черное зеркало» и заявил, что сразу же отключит эту функциональность.
Также Recall уже заинтересовалось британское агентство по защите данных — Управление комиссара по информации (ICO), которое обратилось к Microsoft с запросом, чтобы убедиться, что данные людей действительно будут защищены должным образом и не будут использованы самой компанией.
«Мы ожидаем, что организации будут прозрачно информировать своих пользователей о том, как используются их данные, и обрабатывать персональные данные только в той мере, в какой это необходимо для достижения конкретной цели. Индустрия должна учитывать вопросы защиты данных с самого начала и тщательно оценивать и смягчать риски в отношении прав и свобод людей, прежде чем выводить продукты на рынок, — говорится в заявлении ICO. — Мы направили запрос в Microsoft, чтобы понять, какие меры защиты конфиденциальности пользователей были предприняты».
Но, как отмечает издание Bleeping Computer, даже если представить, что Microsoft действительно не получит доступ к данным Recall, продукт все равно может нести серьезные риски для безопасности и конфиденциальности.
Так как Microsoft признает, что функция не выполняет модерацию контента, она будет просматривать буквально все, что видит, включая пароли в парольных менеджерах и номера счетов на банковских сайтах. Другой пример: если пользователь будет составлять в Word конфиденциальное соглашение, будет создан скриншот и этого документа.
К тому же, если компьютер используется совместно несколькими людьми, придется быть внимательнее к просматриваемым фотографиям и видео, поскольку они тоже будут записаны и сохранены Recall.
Хотя в настройках пользователь сможет запретить делать скриншоты конкретных приложений, специалисты опасаются, что большинство людей вообще не станут разбираться в настройках этой функции. В итоге вся информация будет храниться в удобном семантическом индексе Windows 11 и будет доступна для поиска всем, кто имеет доступ к компьютеру.
Хуже того, если злоумышленников или малварь скомпрометируют устройство пользователя, все данные Recall, защищенные Bitlocker, будут расшифрованы, то есть станут доступны и для хакера.
Таким образом, атакующие смогут попросту похитить базу данных Recall и выгрузить ее на собственные серверы для последующего анализа. Затем полученная информация может использоваться, например, для вымогательства или взлома учетных записей жертв, если учетные данные попадали в поле зрения Recall.
Известный ИБ-эксперт Кевин Бомонт (Kevin Beaumont), неоднократно выступавший с откровенной критикой в адрес Microsoft, выразил обеспокоенность тем, что новая функция создаст обширные возможности для атак, и сравнил Recall «с кейлоггером, встроенным в Windows».
«Если посмотреть на то, что исторически происходило с инфостилерами: они постепенно переходили к автоматическим кражам паролей браузеров, хранящихся локально, — пишет Бомонт. — Иными словами, если злоумышленник получает доступ к системе, он похищает важные базы данных, хранящиеся локально. [Хакеры] могут просто экстраполировать этот процесс, чтобы воровать еще и информацию, записанную функцией Recall».
Хотя Бомонт пишет об инфостилерах, проблема не только в них. Так, малварь, которая нацелена на предприятия (например, TrickBot), порой тоже имеет модули для кражи БД Active Directory домена, чтобы поискать там учетные данные. Ничто не помешает таким вредоносам применить аналогичный подход и тоже начать похищать БД Recall.
