Google создала огромную искусственную копию интернета, состоящую из тысяч поддельных сайтов. Проект получил название Mirror Dimension («Зеркальное измерение»). Он нужен для тестирования ИИ-агентов Chrome — помощников, которые могут самостоятельно открывать страницы, нажимать кнопки, заполнять формы и выполнять другие действия в браузере. Так компания проверяет их безопасность и надёжность, не подвергая риску настоящие сайты и пользователей.
✍️ Скоро читатели смогут публиковать свои тексты на Лайфхакере. Станьте первыми!
Проблема в том, что для обучения и проверки таких агентов необходимы тысячи самых разных сценариев. Например, пользователь может попросить ИИ зайти на YouTube, найти свежий выпуск подкаста и скачать его перед полётом. Помощник должен сам догадаться, какой сайт ему нужен, разобраться в его интерфейсе и выполнить задачу.
Но выпускать ещё не до конца проверенных агентов в настоящий интернет опасно: они могут совершать нежелательные действия. К тому же реальные сайты постоянно меняются, из-за чего сложно воспроизводить одни и те же испытания. Поэтому Google решила построить собственный интернет, в котором можно полностью контролировать происходящее и начинать каждый тест с чистого листа.
Главная хитрость Mirror Dimension заключается в том, что ИИ не должен понимать, что находится в симуляции. Если агент догадается о проверке, его поведение может измениться, и результаты окажутся недостоверными. Поэтому вместо подозрительных адресов тестовых страниц ему показывают привычные URL, например youtube.com. Однако при попытке открыть такой сайт браузер незаметно перенаправляет запрос на его искусственную копию.
Если сайт выглядит статичным или недоделанным, агент нередко замечает тонкие признаки того, что находится в тестовой среде.
Аарон Селья и Чарльз Цянь
Инженеры команды безопасности ИИ Chrome
Всё происходит внутри изолированной среды, в которой нет доступа к настоящему интернету. Чтобы Chrome не выдавал предупреждения о небезопасном соединении, разработчики даже создали специальную систему цифровых сертификатов. Она позволяет браузеру воспринимать поддельные ресурсы как настоящие. В Google подчёркивают, что такой механизм работает благодаря полному контролю над тестовой средой.
Сами сайты тоже создаются с помощью ИИ. Для этого Google разработала систему из нескольких специализированных агентов. Одни продумывают структуру и функции страниц, другие пишут код, а третьи проверяют результат, находят ошибки и отправляют проекты на доработку. Для создания графических элементов используется в том числе Nano Banana, а для проверки работы страниц — инструменты разработчика Chrome.
В результате получаются не просто красивые макеты, а полноценные интерактивные сайты. В искусственном интернете есть онлайн-магазины с корзинами, промокодами и оформлением заказов, социальные сети, сервисы услуг и другие привычные ресурсы. Агенты могут перемещаться между страницами, взаимодействовать с элементами интерфейса и выполнять многоэтапные задачи.
Однако главное предназначение Mirror Dimension — проверка защиты от кибератак. В частности, инженеры испытывают ИИ на устойчивость к так называемым промпт-инъекциям. Это вредоносные инструкции, которые злоумышленники могут прятать на веб-страницах, чтобы заставить помощника сделать что-то без разрешения пользователя.
Такие команды могут находиться не только в обычном тексте, но и в изображениях, скрытых элементах страниц и ответах инструментов, которыми пользуется агент. Google незаметно добавляет подобные ловушки в искусственные сайты и проверяет, как ИИ на них реагирует. Причём раньше помощники иногда замечали подозрительные изменения в адресах страниц, поэтому инженеры перенесли управление атаками в невидимые для них служебные данные.
Агенты не работают по жёстко заданной программе, поэтому невозможно предсказать всё, с чем они могут столкнуться. Нам приходится учитывать огромное количество сценариев, а интернет — враждебная среда.
Чарльз Цянь
По данным Google, автоматизированная система позволяет создавать более 1 000 вариантов тестовых атак ежедневно в расчёте на одного инженера по безопасности. Это более чем в 30 раз превышает возможности ручной работы. Благодаря этому специалисты могут сосредоточиться на поиске новых угроз, оставив рутинные проверки искусственному интеллекту.
По мере того как агенты становятся способнее и наблюдательнее, мы ожидаем, что изолированные тестовые среды с полностью искусственным интернетом, подобные Mirror Dimension, станут основой исследований безопасности ИИ-агентов.
Аарон Селья и Чарльз Цянь
В будущем Google планирует расширить возможности Mirror Dimension и сделать поддельный интернет ещё реалистичнее. Компания также считает, что подобные изолированные среды пригодятся для испытаний других типов ИИ-агентов, в том числе тех, которые самостоятельно пишут программный код.
Источник новости: lifehacker.ru

