Роскомнадзор запустил систему автопоиска запрещенного контента «Окулус»
В декабре система была протестирована, а в январе началась ее интеграция с другими инструментами мониторинга Роскомнадзора. Об этом «Ведомостям» рассказал представитель подведомственного Роскомнадзору Главного радиочастотного центра, который выступал заказчиком по проекту.
По его словам, «Окулус» автоматически обнаруживает экстремистскую тематику в фото и видео, призывы к массовым несогласованным мероприятиям, суициду, пронаркотический контент, пропаганду ЛГБТ. Система будет анализировать более 200 000 изображений в сутки (около трех секунд на одно изображение).
До 2025 года программу планируется усовершенствовать, чтобы выявлть запрещенные материалы «на нескольких кадрах на видеофрагментах, в сложных рукописных текстах и рисованном контенте».
«Окулус» – это система, которая предполагает выполнение задач по классификации изображений и видеороликов по заданным требованиям, включающим основные типы запрещенного контента, пояснила «Ведомостям» гендиректор компании «Социальная лаборатория» Наталия Тылевич. По ее словам, «Окулус» работает как классификатор с уже заданным набором источников информации, в которых анализируется контент на предмет соблюдения или несоблюдения требований закона, добавила она. То есть «Окулус» может анализировать конкретные страницы сайтов или же паблики и профили в соцсетях. Программа не занимается сбором данных, она их классифицирует.
В 2022 г. на основании требований Генпрокуратуры было удалено или заблокировано свыше 100 000 интернет-ресурсов, которые содержат недостоверную информацию (в том числе о ходе военной спецоперации). В 2021 г. таких материалов было около 7000, в 2020 г. – порядка 1500, а в 2019 г. несколько сотен. «Наиболее применяемым инструментом в руках антироссийских источников стал визуальный контент, который способен оказать большее впечатление на эмоции пользователей», – добавил представитель ГРЧЦ.
«Конечно, после аналитики искусственного интеллекта очень важно делать и ручную выборку такой информации, проверять работу ИИ и уже работать с конкретными фактами»
Впервые информация о разработке системы «Окулус» появилась в середине 2021 г., когда ГРЧЦ опубликовал закупку на разработку техзадания для системы стоимостью 15 млн руб. В дальнейшем ГРЧЦ опубликовал и закупку непосредственно на саму разработку «Окулуса» – уже за 57,7 млн руб. В то же время общая стоимость комплекса решений, которые позволят эффективно находить и блокировать различные типы запрещенного контента, оценивается в сумму около 1,5 млрд руб.
Материал взят с сайта ведомости.ру