Министерство цифрового развития России изучает возможность внедрения обязательной маркировки материалов, созданных с помощью искусственного интеллекта. Это может стать мерой против дипфейков и поможет защитить пользователей от распространения недостоверных сведений.
Институт социально-экономического анализа и программ развития (ИСАПР) направил премьер-министру Михаилу Мишустину инициативу о введении обязательной маркировки ИИ-контента как для физических, так и для юридических лиц. За несоблюдение новых правил предлагается вводить штрафы, сравнимые с теми, что предусмотрены за неправомерную обработку личных данных.
Заместитель министра Александр Шойтов сообщил, что в законодательстве Российской Федерации пока отсутствуют общепринятые юридические определения терминов «дипфейк», «искусственный интеллект» и «синтетический контент». Поэтому приоритетной задачей является закрепление правовых норм, регулирующих производство и использование материалов на основе ИИ.
Совместно с Роскомнадзором и другими профильными органами Минцифры работает над разработкой требований к маркировке легального контента — включая изображения и видеозаписи, созданные при помощи алгоритмов искусственного интеллекта.
Также обсуждается введение уголовной ответственности за изготовление и тиражирование поддельных аудио- и видеоматериалов без согласия людей, изображённых на них, если такие действия нанесли ущерб их правам или интересам.
Ведомство указывает на важность создания технических механизмов для распознавания и пометки подобного рода контента. Предполагается задействовать «Единую систему» АНО «Диалог Регионы» и национальный проект «Экономика данных и цифровая трансформация государства».
Директор ИСАПР Андрей Шуриков отметил, что полностью отличить промаркированный ИИ‑контент от немаркированного пока невозможно, но значительную часть такого контента можно выявлять.
Андрей Шуриков подчеркнул, что в первую очередь нужно наказывать распространителей дипфейков, так как технически сложно выявить первоисточник, но распространителей — нет. Важно также обязать платформы оперативно удалять непромаркированный вредоносный контент.
Михаил Копнин, директор департамента IT DCLogic, сообщил, что уже существуют сервисы, позволяющие проверять изображения и видео на факт использования ИИ. Однако он полагает, что маркировать все материалы, созданные нейросетями, нецелесообразно, поскольку пользователям неважно, например, был ли маршрут в навигаторе построен с помощью ИИ.
Александр Туник, руководитель продуктового направления «Рейтинга Рунета», высказал мнение, что нарушители правил маркировки вряд ли станут им следовать.
Денис Кучеров, директор проектов Minerva Result, считает, что маркировка должна применяться в медиапространстве и стать частью системного верификационного процесса. Он добавил, что некоторые системы искусственного интеллекта оставляют скрытую разметку в текстах, которую возможно обнаружить при анализе кода.
Денис Кучеров добавил, что определить первоисточник дипфейка часто невозможно, поэтому ответственность должна быть на тех, кто распространяет такой контент.
Алексей Ваганов, технический архитектор компании «1С ПРО Консалтинг», заявил, что для СМИ и контентмейкеров наличие маркировки может стать конкурентным преимуществом, особенно для тех, кто минимально использует технологии искусственного интеллекта.
Роман Душкин, главный архитектор систем ИИ НИЯУ МИФИ, призвал к осторожному подходу при введении уголовной ответственности за дипфейки, отметив, что действующие законы о цифровом мошенничестве в целом соответствуют требованиям, однако нуждаются в комплексном применении.
Я сделал выборку материала подробнее можно почитать тут.
От себя добавлю, что вопрос действительно сложный и главное не наломать дров и не замедлить развитие отечественных ИИ-систем. У меня много моделей работающих с живым видео , как их маркировать пока слабо представляю.