Исследователь кибербезопасности Билл Суэринген на конференции Def Con в Лас-Вегасе продемонстрировал Toyota Yaris 2009 года, обклеенную специальной виниловой пленкой с хаотичным узором, сгенерированным нейросетью. Автомобиль проехал перед камерой системы Flock Safety, которая не смогла его распознать — система не идентифицировала машину, несмотря на то, что для человеческого глаза это был обычный небольшой седан.
Узор не ослепляет камеру и не делает автомобиль невидимым — он атакует программное обеспечение, обрабатывающее видеопоток. Алгоритмы компьютерного зрения, используемые Flock, интерпретируют изображения не так, как люди: то, что для глаза выглядит как абстрактный рисунок, для нейросети становится «шумом», мешающим классифицировать объект.
Камеры Flock фиксируют не только номер, но и марку, модель, цвет, тип кузова, повреждения и даже наклейки. Однако пленка noRecognition заставляет систему ошибаться на фундаментальном уровне — она просто не видит автомобиль.
Суэринген потратил около года на разработку проекта, проведя более 31 миллиона тестов. В основе — модель обучения с подкреплением, которую он сравнивает с обучением «рисовать». Алгоритм генерирует узор, проверяет его на алгоритмах обнаружения, и если объект распознается, система корректирует рисунок.
Так модель создает «состязательные» паттерны, способные обмануть конкретные системы компьютерного зрения. По словам исследователя, созданный узор обманул все 11 алгоритмов обнаружения с открытым исходным кодом, которые он тестировал, включая системы Flock, нательные камеры Axon и Clearview AI.
Проект noRecognition — это не попытка скрыться от камер, а способ «отказаться от отслеживания» в публичных пространствах.
Право на неприкосновенность частной жизни — это основополагающее право, — заявил Суэринген.В рамках краудсорсинговой кампании он также разработал футболки и толстовки с аналогичными узорами, а в будущем планирует продавать автомобильные наклейки с паттернами.
Демонстрация прошла на фоне растущего общественного недовольства системой Flock Safety, которая установила десятки тысяч камер по всей стране. Компания теряет контракты с городами, сталкивается с вандализмом и судебными исками. По словам Суэрингена, он не пытается сделать автомобиль невидимым для глаз — он делает его невидимым для машин, которые за этими глазами следят.
Читайте также нашу статью о том, как камеры на дорогах научились связывать телефоны с номерами машин.
Источник новости: hi-tech.mail.ru
