🎧 Голосовые ИИ можно взломать через звук
Исследователи показали новую атаку AudioHijack: в обычное аудио прячут сигналы, которые для людей выглядят как эхо или реверберация, а нейронки воспринимает как скрытую команду. То есть ты можешь загрузить песню, голосовое, кусок видео или запись Zoom-звонка, а внутри уже будет спрятан промпт для ИИ. Человек ничего подозрительного не слышит, зато ИИ внезапно начинает выполнять чужие инструкции. 👺 Команды могут заставить модель искать инфу в интернете, скачивать...