Функция искусственного интеллекта Recall в Windows 11 работает локально, не сохраняя данные в облаке, заверила старший научный сотрудник Microsoft Джейми Тиван, выступая в Стэнфордском институте искусственного интеллекта, ориентированного на человека.
Recall будут поддерживать компьютеры спецификации Copilot Plus PC. Ранее Microsoft представила ноутбуки Surface на базе Snapdragon X, которые будут совместимы с этой функцией.
Инструмент записывает то, что делал пользователь на ПК, а затем позволяет найти необходимую информацию при помощи ИИ. Recall делает снимки экрана каждые пять секунд, однако пользователь может исключить из записи некоторые приложения и сайты. Microsoft предупредила, что функция способна перехватывать пароли и конфиденциальную информацию.
Корпорация настаивает, что Recall извлекает текст из изображений, но не модерирует полученные данные.
Настоящая проблема конфиденциальности функции кроется в том, что инструмент фиксирует всё и создаёт базу данных, которая хранится локально. К этой информации можно получить доступ без особых усилий.
Эксперт по кибербезопасности, ранее работавший в Microsoft, Кевин Бомонт написал, что Windows 11 использует Azure AI для OCR-извлечения данных из каждого скриншота. OCR-данные могут включать пароли и хранятся в базе SQLite внутри пользовательской папки, доступной всем пользователям устройства, даже если они не имеют прав администратора. В этом файле записано всё, что когда-либо просматривал пользователь, отмечает Бомонд.
Писатель-фантаст Чарльз Стросс утверждает, что ПК с Recall станут объектом внимания юристов во время судебных разбирательств. По его словам, функция обеспечит доступ не только к электронной почте, но и к разговорам в мессенджерах или сервисах для совместной работы. Стросс добавил, что инструмент станет проблемой для любой организации, которая занимается медицинской документацией или обязана соблюдать юридическую конфиденциальность. Кроме того, он указал на проблемы исполнения европейского GDPR и американского HIPPA в рамках применения Recall бизнесом.
Спикеры задали несколько вопросов относительно шифрования полученных Recall данных, но Тиван уклонялась от ответов, настаивая, что безопасность — «основополагающая вещь» для Microsoft.
Источник новости: habr.com
