Исследователи из IBM Security разработали метод, позволяющий с помощью искусственного интеллекта (ИИ) и технологии аудио-дипфейков перехватывать и манипулировать живыми разговорами. Эксперимент, демонстрирующий возможности "аудио-джекинга", показал, что ИИ может обрабатывать аудио из двух источников в реальном времени, например, во время телефонного разговора. При обнаружении определенного ключевого слова или фразы ИИ перехватывает и манипулирует аудио, заменяя подлинный голос на дипфейк, что остается незамеченным для участников разговора. 🕵♂ Создание системы ИИ для аудио-джекинга оказалось удивительно простым и не требовало сложных мультидисциплинарных исследований в области компьютерных наук. Генеративный ИИ, способный самостоятельно выполнять большую часть работы, требует всего лишь трех секунд записи голоса человека для его клонирования. Такие дипфейки теперь создаются через API, что значительно упрощает процесс их генерации и использования в различных целях. 🤖 Угроза, представ
🔒😮🔔ИИ нужно 3 секунды для распознования голоса и подмены телефонного разговора
6 февраля 20246 фев 2024
11
1 мин