Представьте: вам присылают в мессенджере шокирующее фото или голосовое сообщение. А вдруг это нейросеть? Отличить на глаз или на слух уже почти невозможно. Минцифры, кажется, нашло возможное решение — они обсуждают создание национального сервиса для проверки контента на генерацию ИИ.
Замминистра Александр Шойтов на форуме «IT-диалог» описал идею просто: вы загружаете подозрительный файл, а система отвечает на вопрос: «Этот файл — настоящий или сгенерированный?».
Как это будет работать? По аналогии с антивирусом
Чиновник провел прямую параллель с Национальным сервисом «Мультисканер» (НСМ), который создавался как российский аналог VirusTotal для проверки файлов на вирусы.
Принцип должен быть похожим:
- Вы загружаете файл (фото, аудио, видео, документ) в систему.
- Алгоритм его анализирует.
- Вы получаете вердикт: человек или машина.
Правда, здесь же возникает и первая проблема. Шойтов упомянул «Мультисканер» как пример, но тут же выяснилось, что его работу приостановили из-за отсутствия финансирования. Не очень обнадеживающий прецедент для нового проекта.
А реально ли это сделать? Техническая сторона вопроса
Вот здесь начинаются главные вопросы. Детекция AI-генерации — это гонка вооружений.
- Сегодня ученые находят способы выявлять артефакты и паттерны, характерные для нейросетей.
- Завтра разработчики ИИ улучшают свои модели, и эти метки исчезают.
Создать абсолютно надежный детектор практически невозможно. Он всегда будет догонять развивающиеся технологии генерации. Скорее всего, такой сервис сможет выявлять лишь контент, созданный уже известными и распространенными моделями.
Что в итоге? Мнение со стороны
Лично я вижу в этой инициативе и пользу, и серьезные проблемы.
С одной стороны, сама идея — правильная. Людям нужен хоть какой-то инструмент для проверки информации в эпоху тотального цифрового неправдоподобия. Особенно это важно в контексте мошенничества и дезинформации.
С другой стороны, меня смущает несколько вещей:
- Техническая осуществимость. Сможет ли сервис идти в ногу с OpenAI, Midjourney и другими гигантами?
- Финансирование и судьба проекта. История с «Мультисканером» показывает, как перспективные госпроекты могут затухнуть.
- Доверие к результату. Что, если сервис ошибется? Кто будет нести ответственность?
Вывод? Идея нужная и своевременная, но ее реализация — титаническая задача. Будем надеяться, что разговор не останется просто дискуссией на форуме, а получит серьезную техническую и финансовую поддержку. Ведь потребность в таком «детекторе правды» будет только расти.