По словам исследовательской группы Penn Engineering, в существующих роботизированных платформах есть крупные «дыры» в сетевой инфраструктуре. Из-за этого авторы опасаются, что крупные языковые модели (LLM) недостаточно безопасны, когда речь заходит об их интеграции в роботов.
Эксперты разработали алгоритм RoboPAIR, предназначенный для взлома роботов, использующих LLM. По словам авторов, система направлена на «вызывание деструктивных физических действий» у роботов, контролируемых LLM. В частности, это касается разработок Boston Dynamics и TRI.
Платформе RoboPAIR удалось в 100% случаях взломать три исследовательские платформы робототехники, включая четвероногого робота Unitree Go2, четырёхколёсного Clearpath Robotics Jackal и симулятора LLM Dolphins для автономных транспортных средств. По словам авторов, для доступа к системам алгоритму потребовалось несколько дней.
Авторы исследования опасаются, что существующие уязвимости в безопасности позволят злоумышленникам легко управлять роботами, создавая аварийные ситуации на производстве, а также в местах, где эти они будут использоваться.
