Алексей Зуев, ведущий системный аналитик направления персонализированных ИИ-сервисов во Future Crew, рассказал о трендах в создании дипфейков и защите от них
Deepfake – технология, которая может создавать поддельные аудио и видео, которые выглядят и звучат как реальные. И это может стать угрозой, уже становится. В 2022 году 66% профессионалов в области кибербезопасности столкнулись с deepfake-атаками в своих организациях. Между 2019 и 2020 годами количество deepfake-контента в интернете увеличилось на 900%. Некоторые исследователи предсказывают, что к 2026 году до 90% контента в интернете может быть синтетически сгенерировано.
В ответ на это мировые расходы пользователей на безопасность и управление рисками прогнозируются на уровне 215 миллиардов долларов в 2024 году, что на 14,3% больше, чем в 2023 году. В 2023 году глобальные расходы пользователей на безопасность и управление рисками оцениваются в 188,1 миллиарда долларов. Расходы на защиту данных и облачную безопасность прогнозируются с наибольшими темпами роста в 2024 году, каждый сегмент увеличится более чем на 24% по сравнению с 2022 годом.
Дипфейки часто используются для обмана и проведения атак социальной инженерии, что всё больше угрожает бизнесу. Примером преступления с использованием deepfake является создание поддельных аудиосообщений от CEO или других высокопоставленных руководителей компаний.
Но у дипфейков есть и другая сторона, которая, наоборот, помогает преодолеть физические ограничения и проблемы. Например, сервис под названием Rememory, разработанный компанией DeepBrain AI, позволяет создавать воспоминания о близких людях на основе семейных архивов и памяти знакомых. Этот сервис восстанавливает внешность и голос любимого человека, благодаря фотографиям, видео и рассказам о нём, сохраняя эмоции.
Слово года 2023 по версии Cambridge Dictionary – hallucinate, что отражает растущий интерес к генеративному искусственному интеллекту. В то же время, Merriam-Webster выбрал authentic (подлинный) в качестве слова года, подчеркивая важность подлинности в эпоху дипфейков и постправды. Эти два слова года иллюстрируют дилемму, с которой мы сталкиваемся: как сохранить подлинность и доверие в мире, где всё можно подделать.
