Институт системного программирования (ИСП) Российской академии наук (РАН) и компания Яндекс приступили к созданию технологии, которая позволит отличать настоящий контент (фото, видео, тексты) от созданных искусственным интеллектом (ИИ).
Специалисты разных стран уже внедряют невидимые маркеры — микроскопические артефакты, которые наносятся на контент при генерации через ИИ и помогают отличить его от настоящего. Параллельно с этим Яндекс работает над сервисом проверки, который должен помочь пользователям отличать «искусственный» контент от созданного человека.
В настоящее время система проходит тестирование на изображениях, созданных искусственным интеллектом. В перспективе ее планируют адаптировать для текстов и видеоконтента.
Главная цель создания данной системы, которую ставят перед собой ИСП РАН и компании Яндекс — борьба с дипфейками и фейковым контентом в сети Интернет. В последние годы поддельные фото и видео стали мощным инструментом манипуляций: от мошенничества до политических провокаций. Если маркеровка станет обязательной, пользователи смогут проверить происхождение контента, а платформы — блокировать непромаркированный.