В России скоро может появиться технология, которая позволит отличать настоящие фото и видео от созданных искусственным интеллектом. Разработкой занимаются «Яндекс» и Институт системного программирования РАН. Вместо привычных водяных знаков, которые легко удалить, они предлагают использовать невидимые маркеры — микроскопические артефакты, заметные только специальным программам.
Параллельно «Яндекс» работает над сервисом проверки, который поможет пользователям определить, был ли контент сгенерирован ИИ. Пока система тестируется на изображениях, созданных нейросетью «Шедеврум», но в будущем ее планируют адаптировать для видео, аудио и даже текстов.
Как власти будут бороться с мошенничеством в сети
Главная цель — борьба с дипфейками и фейковым контентом. В последние годы поддельные фото и видео стали мощным инструментом манипуляций — от мошенничества до политических провокаций. Если маркировка станет обязательной, пользователи смогут проверять происхождение контента, а платформы — блокировать непромаркированные подделки.
Что это значит для рынка?
- Компании, работающие с ИИ, могут столкнуться с новыми требованиями. Если маркировка станет обязательной, им придется интегрировать ее в свои сервисы.
- Платформам и интернет-ресурсам, возможно, придется внедрять автоматическую проверку контента, чтобы отсеивать фейки.
- У пользователей появится больше возможностей для проверки цифрового контента, но могут возникнуть споры о приватности: например, если кто-то захочет скрыть использование ИИ в творчестве.
В Госдуме и Минцифры уже обсуждают регулирование ИИ-контента, на основе подобных технологий. Не исключено, что в будущем за распространение непромаркированных дипфейков будут штрафовать или даже введут уголовную ответственность.
Новая этика цифровой безопасности
Точных сроков введения в строй новой технологии нет, но разработка ведется в рамках стратегии развития ИИ до 2030 года. Если эксперимент «Яндекса» окажется успешным, технологию могут масштабировать на весь рынок.
Пока остается много вопросов — например, как система справится с контентом из-за рубежа или можно ли будет обойти маркировку. Но как мы видим, Россия движется к тому, чтобы сделать цифровое пространство более предсказуемым и понятным.