Стикеры на дорожных знаках запутали автопилот автомобилей

Исследователи из Вашингтонского университета пришли к выводу, что стикеры, наклеенные на дорожные знаки специальным образом, могут запутывать автопилот автомобилей, вызывая его неадекватную реакцию вплоть до экстренного торможения. Исследование опубликовано на arXiv, а его краткое изложение приводит Car and Driver, передает N+1.

Основным источником информации для современных систем автопилота, разрабатываемых несколькими компаниями, включая Tesla и Google, является машинное зрение — изображения с радиолокационных станций, камер и лидаров. Автопилот с помощью нейросетей обучен распознавать объекты, попавшие в поле зрение автомобиля, отличая пешеходов, другие машины, светофоры и дорожные знаки.

Обучение автопилотов производится с помощью изображений, полученных с камер авто во время пробных поездок, а также фотографий и видеозаписей в сети. Обычно обученные системы автопилота с высокой точностью распознают дорожные знаки, если только они не имеют сильных повреждений или закрашены.

В новом исследовании ученые обнаружили, что автоматическое распознавание дорожных знаков автопилотом можно запутать, если на знак нанести несколько наклеек. Так, во время эксперимента исследователи добавили на знак STOP (остановка перед продолжением движения) четыре небольших прямоугольных стикера: два белых и два черных. Автопилот распознал знак как ограничение скорости 45 миль в час.

Затем исследователи использовали разноцветные наклейки из которых сверху и снизу надписи STOP на дорожном знаке, из которых они выложили слова LOVE и HATE (любовь и ненависть). Измененный таким образом знак автопилот также распознал как ограничение скорости 45 миль в час. Наконец, исследователи провели аналогичный эксперимент с другим знаком — правый поворот.

В этом случае исследователи напечатали аналогичный по размерам знак, стрелка на котором оформлена из серых квадратов разной яркости. Распечатанный знак автопилот тоже распознал как ограничение скорости 45 миль в час. Исследователи утверждают, что изменяя положение стикеров или серых квадратов на знаках, можно заставлять автопилот по-разному распознавать их.

Единственным серийным автомобилем с системой автопилота сегодня является Tesla. Ее система, хотя и может работать в автономном режиме, как утверждают в компании, задействована лишь ограниченно. При включенном автопилоте водитель все равно обязан держать руки на руле и внимательно следить за дорогой. Это сделано специально, чтобы избегать смертельных случаев из-за неверной работы автопилота.