Единый стандарт: зачем государство создает ИИ для проверки книг
На Московской книжной ярмарке директор Департамента государственной поддержки печати и книжной индустрии Минцифры Владимир Григорьев заявил, что к концу октября 2025 г. ведомство совместно с Роскомнадзором представит издателям «программу на основе искусственного интеллекта для выявления угроз в текстах». Однако у этой инициативы есть важный контекст.
Крупные игроки рынка уже решают эту проблему своими силами. По неофициальной информации, холдинг «Эксмо-АСТ» разрабатывает собственные системы ИИ: «Эксмо» использует Qwen (Alibaba), а «АСТ-Азбука» работает с Just AI (Сбер).
Возникает вопрос: зачем государству создавать дублирующий инструмент? Зачем нужна двойная проверка?
Частная инициатива и государственный подход
Действия «Эксмо-АСТ» — это превентивная мера гиганта, стремящегося минимизировать риски. Новые законы, затрагивающие широкий спектр тем, формулируются достаточно широко, а санкции за их нарушение включают значительные штрафы, конфискацию тиражей и уничтожение книг. В таких условиях издательство выбирает путь максимального соответствия, перекладывая часть ответственности на алгоритм.
Однако у частного использования ИИ есть несколько системных ограничений с точки зрения масштаба государства:
✔️ Неполный охват: Система действует только внутри одного холдинга. Многие мелкие и средние издательства остаются без такого инструмента, что создаёт риски и для них, и для контролирующих органов.
✔️ Неподконтрольность: Государство не может напрямую управлять алгоритмами и критериями оценки частного издательства. Использование «Эксмо» китайской модели Qwen и вовсе выводит процесс в международную плоскость.🙈
✔️Разрозненность: Каждое издательство может использовать свою систему с разной степенью строгости, что создаёт «неровное» правовое поле.
Таким образом, инициатива Минцифры преследует цель не дублирования, а унификации и централизации процесса проверки. Это позволит:
✅Взять процесс под контроль: Единый алгоритм, разработанный вместе с Роскомнадзором, будет трактовать законы в заданном ключе.
✅Охватить всех: Программа будет предложена всем издательствам, особенно малым, у которых нет ресурсов на разработку собственных решений.
✅Создать единую базу: Централизованная система упрощает сбор данных и анализ всей издаваемой продукции в стране.
Фактически, частный ИИ — это инструмент для минимизации рисков отдельной компании. Государственный ИИ — это инфраструктурный проект, направленный на создание единого стандарта контроля за соблюдением законодательства.
ИИ и вызовы контекстуальной обработки
Главный вопрос: «Способен ли ИИ понять контекст?» Пока это сложная задача.
Сможет ли он улавливать сленг? Например, «травка», «косяк» или «Крокодил»? И почему эта система вводится в первую очередь для книг, а не для проверки, например, контента в соцсетях?
Ключевым вызовом остается способность алгоритма анализировать контекст. Современные системы в основном опираются на анализ ключевых слов и паттернов, что может затруднять различие между, например, пропагандой и научным исследованием, осуждением какого-либо явления и его романтизацией, художественной метафорой и прямым призывом.
Для построения системы тотального фильтрующего контроля глубокий анализ контекста может быть не основной целью. Её задача — эффективно отсекать потенциальные нарушения формальных критериев. Это создает риск того, что тонкости художественного замысла, ирония и сатира могут нивелироваться в пользу бинарного подхода, соответствующего заданным алгоритмическим критериям.
В заключение процитирую слова Григорьева:
«Нам предстоит долгий-долгий путь подготовки к применению закона. Надеюсь, что он будет если не гуманным, то хотя бы разумным».
Это признание той самой проблемы: автоматизированный инструмент по своей природе пока не обладает ни гуманностью, ни разумностью. Он — лишь точное отражение заложенных в него правил.
Остаётся пока только надеяться.
#новостиотрасли #ИИ
