AI vision systems can be very literal readers — исследование показало, что автономные системы могут выполнять команды с дорожных знаков, подвергаясь визуальным инъекциям промптов. Это создаёт реальные угрозы для беспилотников и дронов, чьи решения легко искажаются. Косвенная инъекция промптов возникает, когда бот воспринимает входные данные как команду. Мы уже не раз сталкивались с этой проблемой, когда ИИ-ассистентам подавали инструкции через веб-страницы или PDF-файлы. Теперь учёные продемонстрировали,...