Принял участие в круглом столе "Технологии дипфейков: регулирование и противодействие", организованном Московской Городской Думой.
Если еще 2-3 года назад дипфейки воспринимались как забава или гипотетическая угроза из фильмов, то сегодня — это основное оружие киберпреступников. За прошлый год рост одних только мошенничеств с использованием дипфейков в России вырос в 2,5 раза. Помимо этого, дипфейки используются сегодня для создания поддельных документов и обхода процедур KYC, кражи интеллектуальной собственности и биометрических персональных данных. А учитывая изменение основной электоральной массы граждан, они могут начать массово использоваться в избирательном процессе ближе к сентябрю. Однако, есть и положительная тенденция, мы констатируем повсеместное снижение интереса у граждан к сгенерированному контенту с 60% в 2023 году до 26% в 2025 году. Люди не получают эмоциональной связи от его просмотра, что дезориентирует психику и формирует ложные стандарты.
Какие меры я считаю важными в области регулирования дипфейков:
1. Необходимо сформировать целостные законодательные подходы и правоприменительную практику, в рамках которых создание дипфейков будет прямо квалифицироваться как незаконная обработка биометрических персональных данных, составляя собственный состав преступления, а не только являться отягощающим фактором.
2. Требуется введение обязательной многоуровневой маркировки контента, созданного с использованием технологий искусственного интеллекта, включающей публичную (визуально различимую) маркировку для пользователей; а также скрытые криминалистические цифровые метки, содержащие сведения об используемой ИИ-модели, дате и времени генерации, а также цифровом идентификаторе пользователя.
3. Необходимо нормативно закрепить обязанности платформ-распространителей информации. При выявлении немаркированного или противоправного дипфейк-контента — обеспечивать его оперативное удаление; внедрять механизмы проактивного выявления подобных материалов.
4. Целесообразно выстроить систему мониторинга распространения открытых ИИ-моделей, включая
отслеживание появления и распространения моделей на специализированных платформах разработки; установление разработчиков и ключевых пользователей таких решений; анализ функциональности моделей на предмет потенциального противоправного применения.
5. С учетом того, что значительная доля граждан (43%) не способна уверенно отличать синтетический контент от достоверного, требуется реализация системных просветительских мер, направленных на формирование навыков критической оценки цифровой информации; информирование о рисках, связанных с дипфейками; формирование негативного отношения к использованию подобных технологий в противоправных целях.
6. Необходимо стимулировать разработку и внедрение отечественных систем детекции дипфейков, в том числе за счет государственной поддержки профильных разработчиков; внедрения механизмов пилотирования технологий в рамках экспериментальных правовых режимов (регуляторных «песочниц»); тестирования решений в приоритетных отраслях — банковском секторе, системах критической информационной инфраструктуры, органах государственной власти.
7. Эффективное противодействие дипфейкам и противоправному использованию ИИ невозможно без системного вовлечения инструментов гражданского общества и профессионального экспертного сообщества. Представляется целесообразным сформировать систему регулирования и добровольной (с возможным переходом к обязательной) сертификации специалистов, работающих в области анализа открытых данных (OSINT), мониторинга цифровой среды и выявления информационных угроз, а также создать механизмы их аккредитации при взаимодействии с государственными органами.
