🎧 Голосовые ИИ можно взломать через звук.
Исследователи показали новую атаку AudioHijack: в обычное аудио прячут сигналы, которые для людей выглядят как эхо или реверберация, а нейронки воспринимает как скрытую команду.
То есть ты можешь загрузить песню, голосовое, кусок видео или запись Zoom-звонка, а внутри уже будет спрятан промпт для ИИ. Человек ничего подозрительного не слышит, зато ИИ внезапно начинает выполнять чужие инструкции.
👺 Команды могут заставить модель искать инфу в интернете, скачивать файлы, отправлять email с данными пользователя, подменять ответы, вставлять вредоносные ссылки или даже менять собственную личность.
◼️ Проверяли атаку на 13 моделях, включая сервисы Microsoft и Mistral, а успешность доходила до 79-96%. Исследователи даже пытались “обучить” модели распознавать такие атаки, но эффективность AudioHijack упала всего примерно на 7%.
Раньше prompt injection хотя бы можно было увидеть глазами в тексте
➖➖➖➖➖➖➖➖➖
