Кусок пленки, и авария обеспечена: ученые показали, как легко ослепить «умную» машину

Исследователи из Технического университета Мюнхена (TUM) показали, что даже незаметная пленка на датчике может привести к серьезной аварии. Если наклеить ее на камеру или лидар, система помощи водителю продолжает видеть дорогу, но ошибается в том, где именно находятся разметка и другие машины. Работу представили на симпозиуме USENIX по безопасности транспорта.

Системы помощи водителю сейчас стоят почти во всех новых автомобилях, а в Мюнхене готовят испытания роботакси. Такие машины ориентируются с помощью оптических датчиков. Камеры распознают знаки, разметку и других участников движения. Лидары измеряют расстояния лазером и строят по ним трехмерную картину окружающего пространства. Если исказить то, что видят эти датчики, последствия могут оказаться опасными для всех на дороге.

Команда профессора Себастьяна Штайнхорста и руководителя группы кибербезопасности Мохаммада Хамада взяла поликарбонатную пленку с микроскопическими несимметричными призмами. Она отклоняет свет на 20°. Машина по-прежнему видит объекты и полосы, но считает, что они находятся левее или правее, чем на самом деле. Если смещение превышает 1 м, автомобиль может принять неверное решение и, например, выехать на встречную полосу.

Ученые проверили атаку на настоящем исследовательском автомобиле. Пленку закрепили на лидаре с обзором 120° на крыше и на фронтальной камере с матрицей Sony за лобовым стеклом. Нейросети, которые распознают объекты, почти не потеряли в уверенности, поэтому система не замечает подвоха. При этом маршрут, который машина рассчитала по данным лидара, ушел далеко в сторону от реального.

Сначала исследователи проверяют такие атаки на цифровых двойниках, т. е. виртуальных копиях автомобиля и его окружения. Так уязвимости можно изучать безопасно и недорого. Затем атаки повторяют в контролируемых условиях на исследовательском автомобиле TUM EDGAR.

Параллельно команда ищет способы защиты. Например, пленка оставляет характерные искажения в сигнале лидара, а на снимках камеры смещаются неподвижные детали вроде капота. По ним вмешательство можно заметить.

В будущем умные автомобили должны сами распознавать такие риски. Если датчики работают неправильно, машина сможет безопасно остановиться у обочины или предупредить об этом еще до начала поездки. Особенно это важно, когда оператор центра управления не успевает вмешаться из-за потери связи или нехватки времени.

Ранее мы писали о том, что блогер обманул автопилот Tesla и въехал в стену. Классический лидар в том эксперименте оказался надежнее камер.