Подкасты и видео смогли передать ИИ-ассистентам команды, которые не слышит человек
Группа ученых из Китая и Сингапура продемонстрировала новый тип атаки на голосовые ИИ-системы. В обычный аудиоконтент (подкасты, музыку или фоновые видео) можно встроить неслышимые для человека звуковые сигналы, которые голосовой ассистент воспринимает как команды. Подтвержденные уязвимости исследователи нашли в продуктах Microsoft и Mistral AI. Метод основан на так называемом adversarial audio, то есть акустическом сигнале, который ИИ-модель распознает как команду, хотя человек его не слышит. Такой сигнал можно встроить в звуковой файл, который воспроизводится в фоновом режиме...