Роскомнадзор проявил интерес к разработке НИУ ИТМО, предлагающей распознавать ложь по видеозаписи, Прототип отечественного решения уже прошел тестирование. Как заявляют в Роскомнадзоре, система может применяться для определения дипфейков (так называют видео, синтезированное с помощью искусственного интеллекта).
Способ разоблачения фальсифицированных роликов
"Коммерсантъ" сообщает, что в Национальном центре когнитивных разработок ИТМО для Главного радиочастотного центра (ГРЧЦ), подведомственного Роскомнадзору, создают сервис для поверки видеозаписей на предмет манипуляций и лжи. Сервис на основе искусственного интеллекта носит название Expert.
Этот российский сервис дает возможность анализировать виделролики и выявлять дипфейки, рассказал Александр Федотов, возглавляющий Научно-технический центр ФГУП ГРЧЦ.
"Коммерсантъ" напоминает, что deepfake представляет собой современный метод синтеза данных, позволяющий заменять элементы изображения в оригинальных видеороликах. Используя эту технологию, можно создавать, например, фейковые видеозаписи с участием политиков или других известных личностей.
В ИТМО объяснили, что система Expert осуществляет анализ видео или аудио, оценивая различные параметры: уровень внешней и внутренней агрессии персонажа, его уверенность, противоречивость, а также конгруэнтность информации (согласованность вербальных и невербальных сигналов). Также производится сравнение с другими источниками.
Почему отечественный Expert работает с английским языком?
Пока система распознавания лжи заточена на работу с английским, сообщают разработчики. Как пояснил Олег Басов (руководит научно-исследовательской лабораторией "Когнитивная невербалика" НЦКР ИТМО), английский язык был выбран как самый распространенный. Однако доработка системы под русский язык в ближайших планах разработчиков.
Басов сообщил, что Expert был предварительно протестирован в связи со скорыми выборами в Сенат Соединенных Штатов. Были проанализированы 6 интервью кандидатов в Сенат США на предмет противоречий, уверенности в себе и агрессии, и в трех случаях система выявила скрытую агрессию, а один из роликов позволяет заподозрить ложь.
Эксперты сообщают, что в настоящее время более 90% отечественных разработок с применением искусственного интеллекта используют для обучения зарубежные библиотеки с дата-сетами. Именно в этом причина адаптации под английский язык. А для переобучения на "язык родных осин" потребуется значительный массив данных, а также материальные затраты.
Эксперт из юридической компании "ЭБР" Кирилл Ляхманов напоминает, что любые разновидности "детекторов лжи" не считаются доказательством в судах большей части стран. Сама идея анализа "правдивости" или "ложности" по признакам, связанным с поведением человека, не выдерживает критики, полагает Ляхманов.
-----
Подписывайтесь на канал и читайте новости на https://newizv.ru.
