Компания Microsoft вновь тестирует функцию Recall, выход которой ранее был отложен из-за проблем с конфиденциальностью и безопасностью. Пока Recall доступна только участникам программы Windows Insiders, но пользователи уже заметили проблемы: функция сохраняет номера банковских карт, номера социального страхования и другую конфиденциальную информацию, даже если это запрещено.
Напомним, что Recall представили в мае 2024 года. Функция призвана помочь «вспомнить» любую информацию, которую пользователь просматривал в прошлом, сделав ее доступной с помощью простого поиска. Так, Recall, которую планировали включить по умолчанию на всех новых ПК Copilot+, делает снимок активного окна на экране каждые несколько секунд, записывая все, что происходит в Windows, будь то просмотр сайтов в браузере, общение в мессенджере или работа с другими приложениями.
Полученные снимки обрабатываются нейронным процессором (Neural Processing Unit, NPU) устройства и ИИ-моделью для извлечения данных со скриншотов. Затем информация сохраняется в БД, и пользователи могут осуществлять поиск по истории с помощью запросов на родном языке.
Сразу после анонса Recall подверглась жесткой критике как со стороны ИБ-экспертов, так и со стороны защитников конфиденциальности. Специалисты сравнивали функцию с кейлоггером и демонстрировали, что ее можно использовать ее для кражи данных.
В ответ на эту критику Microsoft отложила запуск Recall и сообщила, что обеспечит дополнительную безопасность, сделав функцию опциональной и зашифровав БД, чтобы та была недоступна, пока пользователь не пройдет аутентификацию с помощью Windows Hello.
Как сообщает издание Tom's Hardware, недавно Recall стала вновь доступна участникам программы Windows Insiders. Теперь функция должна шифровать данные и поставляется с активной по умолчанию настройкой Filter sensitive information («Фильтрация конфиденциальной информации»), которая призвана блокировать запись любых приложений и сайтов, где могут отображаться номера банковских карт, номера социального страхования и прочая финансовая и личная информация. Однако журналисты обнаружили, что этот фильтр работает далеко не всегда.
Так, Recall успешно захватила текст из «Блокнота» со случайным именем пользователя, паролем и номером банковской карты, хотя рядом было написано название банка и платежной системы («Capital One Visa»).
Точно также Recall проигнорировала настройки и захватила данные из заполненной анкеты на кредит в формате PDF, открытой в Microsoft Edge. Документ содержал номер социального страхования, имя и дату рождения.
Вызвать срабатывание фильтра не помогло даже создание простой HTML-страницы, где прямо говорилось «Введите номер кредитной карты», и были представлены поля для ввода номера карты, кода CVC и даты истечения срока действия карты. Recall успешно захватила и сохранила все вписанные в форму данные.
При этом новая функция Microsoft отказалась захватывать данные банковской карты после перехода на страницы оплаты двух интернет-магазинов – Pimoroni и Adafruit. То есть для реальных коммерческих сайтов фильтр все же сработал.
«То есть, когда речь шла о реальных коммерческих сайтах, Recall сделала все правильно. Однако мой эксперимент показывает, что для ИИ-фильтра Microsoft практически невозможно выявить все ситуации, когда на экране появляется конфиденциальная информация, и избежать ее захвата. Мои примеры были разработаны для проверки фильтра, но это совсем не редкие случаи. Люди действительно вносят конфиденциальную личную информацию в PDF-формы. Они записывают, копируют и вставляют данные в текстовые файлы, а затем вводят их на сайтах, которые не похожи на типичные сайты магазинов», — рассказывает главный редактор Tom's Hardware Авраам Пилч (Avram Piltch).
Когда издание обратилось за комментариями к представителям Microsoft, в компании ответили ссылкой на сообщение в блоге, посвященное Recall. В нем сказано, что разработчики «продолжают улучшать эту функцию», а в случае обнаружения конфиденциальной информации, которую следует отфильтровать, рекомендуется сообщать об этом через Feedback Hub.
При этом Пилч отмечает, что данные, захваченные Recall, теперь действительно шифруются (надежность этого шифрования наверняка проверят ИБ-исследователи), а доступ к ним требует аутентификации с помощью Windows Hello. По его словам, скриншоты сохраняются в подпапке под названием AsymStore, и их не удалось открыть как PNG, BMP или JPG.
«Возможно, хакеры разберутся, как открыть эти файлы, но, насколько я могу судить, обычный пользователь не cможет открыть их вне приложения Recall», — заключает Пилч.
