В 2023 году информационная система «Вепрь» приступит к поиску опасного контента в Сети. Мониторить интернет она будет вместе с системой «Окулус». Искусственный интеллект облегчит работу специалистов, которые сейчас ищут такие фото и видео вручную. Однако эксперты говорят, что у «Вепря» есть недочеты.
Актуальная система
В России готовится запуск новой информационной системы «Вепрь». Ее разработка длится уже второй год, сейчас система проходит внутренние тестирования. По данным «Известий», «Вепрь» будет искать потенциальные точки напряженности в интернете, которые могут перерасти в реальные угрозы.
Разработка начнет работать в паре с другой системой — «Окулус». Ее запустили в начале 2023 года. Задачи «Окулуса» — выявлять фотографии и видеоролики, на которых, например, есть призывы к суициду, пропаганда наркотиков и экстремизм.
Фото: ThisisEngineering RAEng/Unsplash
В пресс-службе Главного радиочастотного центра (ГРЧЦ), подведомственного Роскомнадзору, рассказали, что системы помогут быстрее находить запрещенных контент и пресекать его. Сейчас это особенно актуально. Скорость распространения фейков в соцсетях после начала СВО бьет рекорды, сообщили в ГРЧЦ. Ложную информацию блокируют, но полностью очистить от нее интернет без искусственного интеллекта нереально.
Облегчит работу и сделает Сеть безопасной
Эксперт по кибербезопасности Алексей Курочкин пояснил, что «Вепрь» будет вычислять не только фейковый контент, но и «скандальные посты», в которых есть оскорбления российских чиновников и ведомств.
В беседе с «Ямал-Медиа» он отметил, что система облегчит работу специалистов, которые выявляют запрещенные материалы вручную. «Вепрь», по его словам, сможет анализировать до миллиона страниц во «ВКонтакте» и вычислять незаконный контент. Решать, что с ним делать, будет человек.
Большой объем данных человек пересмотреть, прочитать, переработать не может. <…> Принимать решение о конкретных действиях, «реакции» или «не реакции» (что делать с выявленным контентом — прим. ред.) будет живой человек.
Алексей Курочкинэксперт по кибербезопасности
Фото: Surface/Unsplash
Искусственный интеллект сможет выполнять «рутинные процедуры» и искать запрещенный контент по различным ключевым словам, рассказал «Ямал-Медиа» эксперт по кибербезопасности и директор департамента информационной безопасности Sitronics Group Александр Дворянский.
«Это могут быть фейковые сообщения (которые будет вычислять «Вепрь» — прим. ред.), сообщения, которые не носят под собой какой-то проверенной информации, либо различные подстрекательства, которые так или иначе присутствуют в Сети. Ну и любые запрещенные материалы, которые могут на массу оказывать влияние. <…> То есть эти вещи вполне себе можно автоматизировать», — пояснил специалист.
Несовершенная система
Дворянский считает, что оценивать возможные недочеты новой разработки пока преждевременно. Он отметил, что подобные системы есть в других странах и они успешно справляются с поставленными задачами.
Но есть опасения, что неправильное использование системы может дать обратный эффект — законные материалы будут признаваться запрещенными, рассказал специалист отдела комплексных систем защиты информации компании «Газинформсервис» Дмитрий Овчинников.
Фото: Nikita Kachanovsky/Unsplash
«Если задать слишком жесткие метрики, то подобная система будет работать лишь немногим лучше, чем группа живых операторов. Если же метрики сделать слишком свободными, то тогда будет совершенно обратный эффект», — пояснил он.
В то же время благодаря умению системы «Вепрь» мониторить настроения людей в Сети по комментариям можно будет предотвращать преступления в школах, отметил Овинников.
«Если вовремя предвидеть проблему, можно заранее ее предотвратить, что существенно снизит социальную напряженность и увеличит стабильность работы государственных органов», — заключил эксперт.
Самые актуальные новости — в нашем телеграм-канале «Ямал-Медиа».