В сети всё чаще появляются поддельные видео с известными личностями. Даже мошенники начали использовать генеративные нейросети в своих целях. В качестве решения этой проблемы компания McAfee, разработчик антивируса, презентовала на CES 2024 программу Mockingbird, способную выявлять сгенерированный нейросетями звук.
McAfee заявляет, что её технология способна выявлять поддельный звук в видео с точностью более 90%. В качестве демонстрации было опубликовано видео с поддельным голосом Тейлор Свифт, в котором известная певица якобы рекламирует разную кухонную утварь с попыткой выманить пользовательские данные.
График на видео от McAfee показывает, какие части аудиодорожки, по мнению нейросети, были сгенерированы с помощью ИИ. Сложности добавляет тот факт, что часть дорожки всё же собрана из настоящих записей певицы, но сервис всё же достаточно точно выявляет поддельные фрагменты, разделяя их пунктирной линией.
Правда, не совсем ясно, как пользоваться подобной функцией, ведь едва ли кто-то будет вручную проверять каждое просмотренное видео. Вероятно, что сами платформодержатели, вроде YouTube и других, должны внедрять подобные проверки в свои сервисы.