В пятницу Мередит Уиттакер, занимающая пост президента Signal, выразила обеспокоенность по поводу того, что агентский ИИ может поставить под угрозу конфиденциальность пользователей.
Во время своего выступления на конференции SXSW в Остине, штат Техас, эксперт по защите информации выразила обеспокоенность по поводу использования ИИ-агентов. Она сравнила этот процесс с «помещением вашего мозга в банку», подчеркнув, что новая парадигма вычислений, при которой ИИ выполняет задачи от имени пользователей, может привести к серьёзным проблемам с конфиденциальностью и безопасностью.
Уиттакер объяснила, что ИИ-агенты позиционируются как способ повысить ценность вашей жизни, выполняя различные онлайн-задачи за вас. Например, агенты могут выполнять такие задачи, как поиск концертов, бронирование билетов, планирование мероприятия в вашем календаре и отправка сообщений вашим друзьям о том, что билеты забронированы.
«Значит, мы можем просто поместить наш мозг в банку, потому что он сам это делает, и нам не нужно его трогать, верно?» — размышлял Уиттакер.
Затем она объяснила, какой доступ нужен ИИ-агенту для выполнения этих задач, в том числе доступ к нашему веб-браузеру и возможность управлять им, а также доступ к информации о нашей кредитной карте для оплаты билетов, к нашему календарю и приложению для обмена сообщениями, чтобы отправлять сообщения вашим друзьям.
«Необходимо было бы иметь возможность активировать этот процесс в нашей системе, предоставив пользователю права администратора. Это позволило бы получить доступ ко всем базам данных, возможно, в открытом виде, так как не существует модели для шифрования доступа», — отметила Уиттакер. «Если речь идёт о достаточно мощной модели ИИ, то её использование на одном устройстве невозможно, — продолжила она. — Вероятно, данные отправляются на сервер в облаке, где они обрабатываются и затем возвращаются обратно. Это вызывает серьёзные опасения относительно безопасности и конфиденциальности, которые стоят за шумихой вокруг агентов и могут в конечном итоге привести к разрушению гематоэнцефалического барьера между прикладным уровнем и операционной системой, объединяя все отдельные сервисы и смешивая их данные», — резюмировала Уиттакер.
По её мнению, если в приложение для обмена сообщениями, например Signal, будут внедрены интеллектуальные агенты, это может поставить под угрозу конфиденциальность вашей переписки. Агент должен иметь доступ к приложению, чтобы отправлять сообщения вашим контактам, а также собирать данные для анализа этих сообщений.
Ее комментарии последовали за замечаниями, которые она сделала ранее во время дискуссии о том, как индустрия ИИ была построена на модели наблюдения с массовым сбором данных. Она сказала, что парадигма «чем больше, тем лучше ИИ», означающая, что чем больше данных, тем лучше, имеет потенциальные последствия, которые, по ее мнению, не являются положительными.
Уиттакер предупредила, что с помощью агентского ИИ мы ещё больше нарушим конфиденциальность и безопасность во имя «волшебного робота-джинна, который будет решать насущные жизненные проблемы».
Источник
Источник новости: habr.com
