Ученые создали картинку, по которой автомобиль автопилот «сойти с ума»

Уязвимость автопилоты оказалось, яркие пятна, на вид поведения электроники становится непредсказуемым.

Проблему обнаружила группа исследователей из Института интеллектуальных систем Макса Планка. Они обнаружили, что «гул» это не более правильно определить, какие объекты на дороге, если рама камеры входит особый рисунок. Что такое pied точки, напечатанный на футболке, как наклейка на бампер или на мешок с продуктами, может стать проблемой для безопасности автономных транспортных средств — могут резко изменить направление движения или остановиться.

Ученые опасаются, что в будущем, когда автономная транспорта станет массовым, эта «картинка» может быть использована злоумышленниками. Особенно беспокоит ученых то, что система авто-обучения на основе нейронных сетей, которые являются неотъемлемой частью «автопилот», начинают ошибаться даже от небольших изображений, фиктивные.

Исследователя работают для того чтобы решить эту проблему и призывают обратить внимание на опасный компаний, которые разрабатывают системы автономного вождения.

Источник: Max Planck Research Group for Autonomous Vision

Категория: Авто