Социальная сеть «Одноклассники» запустила технологию на базе нейросетей для борьбы с агрессивными комментариями. Специальный механизм начнет оценивать тексты и изображения, после чего передаст все данные модераторам. После этого все подобные публикации удалят, а авторам временно заблокируют участие в дискуссии. Технологию запустили в рамках глобального построения безопасности VK.
Под запрещенные комментарии попадут призывы к разжиганию ненависти к любой нации или группе людей с использованием нецензурной лексики, а также угрозы другим пользователям. Алгоритм также начнет анализировать изображения, которые появляются в комментариях. Если там появятся кадры шокирующего содержания или акты насилия, то их удалят.
Нарушители правил сети получат временный запрет на комментарии к любым записям в социальной сети. При попытке оставить новую запись в дискуссии автор получит уведомление и ссылку на правила поведения. Также под временную блокировку попадут пользователи, на которых поступает много жалоб, а система оценивает их заявления как агрессивные.
Новый алгоритм создаст уважительную среду для общения в социальной сети.
Технология уже работает на всех платформах. В десктопной версии соцсети пользователи, которые получили временный запрет, при попытке оставить комментарий увидят сообщение с объяснениями и ссылкой на подробности о работе нового алгоритма. В ближайшее время эта функция появится и в приложениях на iOS и Android.
«Одноклассники» заботятся о безопасности своих пользователей. В феврале в социальной сети начал работать Центр безопасности сообщений. Теперь все фотографии откровенного или неприличного содержания пользователи получают в размытом виде. Посмотреть или нет, владельцы профиля решают самостоятельно.
