Сотрудники Санкт-Петербургского Федерального исследовательского центра Российской академии наук (СПб ФИЦ РАН) создали уникальный алгоритм, способный в автоматическом режиме распознавать дипфейки. То есть изображения, созданные или измененные при помощи искусственного интеллекта. Об этом сообщает пресс-служба исследовательского центра.
Дипфейки — это созданные при помощи ИИ картинки или видео, которые выглядят настолько реалистично, что их тяжело отличить от реальных. Опасность таких изображений в том, что они могут быть использованы злоумышленниками для нанесения экономического или репутационного ущерба.
Ученые из Петербурга создали алгоритм, способный распознавать подобные изображения. В нем используется метод «апскейлинга» (от английского upscaling — масштабирование). Его суть заключается в том, что к изображению добавляются определенные пиксели, которые делают его более четким.
«Мы разрабатываем алгоритмы, которые анализируют множество параметров изображения, чтобы определить, насколько оно было изменено с помощью искусственного интеллекта. Это важно, так как практически все современные смартфоны используют нейросети для улучшения фотографий. Однако при создании дипфейков фотографии изменяются гораздо сильнее и в этом и состоит отличие», — приводит пресс-служба СПб ФИЦ РАН слова участника проекта, цифрового криминалиста Дмитрия Левшуна.
На данный момент разрабатывается база данных из трех типов изображений: полностью сгенерированных нейросетью, частично созданных ею и модифицированных искусственным интеллектом. На ее основе будет создан алгоритм, способный отличить дипфейк от реального изображения.
Отмечается, что «апскейлинг» это только один из способов создания реалистичных подделок. В будущем ученые планируют доработать нейросеть, чтобы она могла отличать дипфейки по различным параметрам.
«Наша глобальная цель — создать приложение, которое бы быстро и точно выявляло фейковые изображения и видео, защищая репутацию и финансы людей от интернет-мошенников», — пояснил пояснил руководитель проекта Андрей Чечулин.
Ранее «Телеспутник» писал, что в России обсуждается возможность создания единой платформы, которая бы выявляла недостоверную информацию, сгенерированную нейросетями. Соответствующее поручение было дано министерству цифрового развития премьер-министром страны Михаилом Мишустиным.