Искусственный интеллект в борьбе с незаконным контентом в России

В России начинается новая эра в борьбе с противоправным контентом в интернете, благодаря внедрению искусственного интеллекта (ИИ).

Генпрокуратура, в сотрудничестве с Минцифры и Роскомнадзором, разработала законопроект, который предусматривает использование специализированной информационной системы на основе ИИ для оперативной блокировки запрещенной информации.

Данная система, известная как «Окулус», представляет собой значительный технологический прорыв и направлена на автоматическое распознавание и блокирование контента, который нарушает российское законодательство.

Особое внимание уделяется материалам, содержащим недостоверную информацию об армии России, а также другим видам контента, которые могут быть классифицированы как экстремистские или террористические, призывы к массовым незаконным мероприятиям, пропаганда нетрадиционных сексуальных отношений, и информация о методах изготовления наркотиков.

Важной особенностью системы является ее способность к анализу языка и тональности контента, что позволяет проводить не только контроль ключевых слов, но и более глубокий семантический анализ.

В прошлом году Роскомнадзор уже направил более двух тысяч требований о внесудебном ограничении контента, и новая система поможет ускорить этот процесс. Однако, несмотря на технологические инновации, остаются вопросы касательно точности и эффективности ИИ, а также беспокойства по поводу возможности злоупотребления системой и влияния