Искусственный интеллект против запретного контента

Ученые из Новосибирского государственного университета (НГУ) представили инновационную систему, использующую искусственный интеллект для автоматической фильтрации нежелательного контента

Как сообщили в пресс-службе вуза, новая разработка способна скрывать потенциально проблемные фрагменты в видео- и аудиоматериалах без участия человека.

Система ориентирована на широкий круг пользователей – от индивидуальных создателей контента до крупных медиакомпаний, онлайн-кинотеатров и видеохостингов. По словам разработчиков, искусственный интеллект самостоятельно распознает различные категории нежелательного контента, такие как сцены курения, нецензурная лексика, материалы экстремистского характера и контент с возрастным ограничением 18+. Выявленные фрагменты автоматически обрабатываются – видео может быть закрыто мозаикой, а аудио – заглушено "пиком".

Представитель команды разработчиков Илья Трушкин отметил, что цель проекта – создать инструмент, позволяющий публиковать контент, соответствующий правилам платформ и требованиям законодательства. Он подчеркнул, что система осуществляет фильтрацию материалов до их публикации, освобождая авторов от необходимости выполнять эту работу вручную.

В ходе работы над проектом команда провела анализ рынка и, по словам Трушкина, не обнаружила аналогичных комплексных решений. Существующие инструменты, как правило, ограничиваются обработкой фотографий, требуют ручного контроля или лишь информируют о наличии нежелательного контента. Новосибирская разработка, напротив, автоматически скрывает проблемные элементы, что упрощает процесс публикации и повышает безопасность контента.

Ожидается, что новая система будет особенно интересна медиаплощадкам, которые несут ответственность за размещаемый контент. Сервис позволит им в автоматическом режиме приводить материалы, поступающие от сторонних лиц, в соответствие с законодательными требованиями.

В настоящее время команда завершает процесс настройки и тестирования интеграции продукта. Планируется, что сервис будет доступен в двух вариантах: бесплатном для индивидуальных пользователей и коммерческом для крупных компаний.