В России создали высокоточный детектор дипфейков в соцсетях

Российская компания «МТС Web Services» презентовала инновационный детектор дипфейков. Новая система, по словам разработчиков, способна распознавать поддельные видео, сгенерированные современными ИИ-моделями, с точностью до 98%.

Программа МТС анализирует изображение и звук. Для проверки видео используется детектор от VisionLabs, а для анализа аудиодорожки — собственная модель MWS AI. Её учат на реальной человеческой речи, а потом - на синтетических записях. Так нейросеть понимает признаки искусственного голоса.

Тестирование детектора уже идет на платформе для видеоконференций «МТС Линк», в сервисе «Защитник», блокирующем звонки от мошенников, в госсервисе и нескольких банках.

Разработка особенно актуальна сейчас, так как поддельные видео и аудиосообщения часто используются мошенниками, чтобы ввести в заблуждение. Кроме того, такие ролики распространяют по сетям, чтобы посеять панику в обществе, например, с заявлениями политиков или выдуманными катастрофами. Без мощного детектора отличить контент, созданный современными нейросетями, почти невозможно.

Разработка МТС решает эту проблему и развивается на перспективу. Как отметил генеральный директор MWS Павел Воронин, обучение детектора для работы с новейшими моделями популярных контент-сервисов заняло всего две недели.

«С этой точки зрения наша основная задача — регулярно обновлять нейросети и делать это максимально быстро, поэтому мы сосредоточились на скорости дообучения алгоритмов», - подчеркнул он.

Разработка МТС становится щитом против массовых манипуляций и распространения недостоверной информации.