51 подписчик
Готовы нападать по первой команде 😧
Оказалось, что взломать ИИ-роботов — проще простого. С помощью системы RoboPAIR удалось со 100% успехом заставить роботов выполнять опасные действия.
Например, беспилотный бот Dolphin сталкивался с автобусом и пешеходами, а другой робот, Jackal, опрокидывал полки на людей и блокировал аварийные выходы.
Авторы исследования предупреждают, что эти уязвимости представляют серьезную угрозу, поскольку взломанные роботы могут причинять физический вред.
Причем исправления ПО недостаточно для решения проблемы — необходим пересмотр подходов к внедрению ИИ в роботов.
Около минуты
18 октября 2024