Исследователи из Калифорнийского университета в Ирвайне разработали способ, который заставит производителей дронов пересмотреть свои алгоритмы. Они напечатали на обычных зонтах специальные узоры, которые сбивают с толку систему автономного слежения квадрокоптеров.
В основе атаки FlyTrap — уязвимость в алгоритмах автономного отслеживания целей (ATT). Системы, которые позволяют дрону следить за человеком, полагаются на нейросети, обрабатывающие видеопоток. Исследователи сгенерировали узор, который эти сети интерпретируют как «удаляющийся объект». Когда дрон приближается, узор продолжает казаться меньше — и машина летит дальше, чтобы сократить дистанцию.
В итоге беспилотник подлетает так близко, что его можно поймать сеткой или просто сбить. В видео, опубликованном учеными, дрон DJI Mini 4 Pro послушно приближается к зонту, думая, что улетает.
Метод протестировали на трех популярных моделях: DJI Mini 4 Pro, DJI Neo и HoverAir X1. Во всех случаях атака сработала в реальных полевых условиях, под разными углами и даже при движении.
Автономные дроны все чаще используют для охраны границ, наблюдения и доставки. Но та же технология может быть использована против них. Как отмечает соавтор исследования Альфред Чен, «автономное отслеживание целей несет и огромный потенциал, и значительные риски». Его коллега Шаоюань Се добавляет: «Наши результаты подчеркивают острую необходимость повышения безопасности таких систем до их широкого внедрения в критической инфраструктуре».
Зонт с узором, напечатанным на ИИ, — это просто, дешево и работает. Противопоставить такому можно либо улучшение алгоритмов, либо отказ от автономного слежения. Пока что разработчики из DJI и HoverAir были уведомлены об уязвимости.
Разработка пока существует, как лабораторный прототип. Ни о серийном производстве, ни о ценах на «ловушки» речи не идет — все данные и коды опубликованы в открытом доступе для исследовательских целей. Однако сам факт того, что зонт с распечатанным узором за 20 долларов может нейтрализовать дрона за тысячи, уже заставляет производителей спешно пересматривать алгоритмы слежения. Обновления прошивок, которые могли бы закрыть уязвимость, ожидаются в ближайшие месяцы.
Читайте также нашу статью о новом дроне для скрытого наблюдения, имитирующем птицу.