Социальная сеть «Одноклассники» разработала технологию на основе машинного обучения. С ее помощью доля негативных комментариев под публикациями уменьшилась на 47%.
ИИ-технология автоматически находит токсичные комментарии, а после ограничивает для их авторов доступ к написанию новых неприятных сообщений. Блокировка может длиться от одного часа до 24 часов, отмечают в «Одноклассниках». Это зависит от того, насколько часто пользователь оставляет негативные комментарии и попадает под блокировку.
«Мы видим по запросам пользователей, что у нашей аудитории есть потребность в пространстве для безопасного и уважительного общения: треть всех жалоб на платформе связаны с негативными, по мнению пользователей, комментариями, а 80% обращений в службу поддержки по поводу комментариев нацелены против “токсичности”. Мы обучали эту модель больше года и продолжим совершенствовать её в дальнейшем. Вместе с другими продуктовыми решениями, которые мы внедрили за последние два года, ограничение токсичных комментаторов позволит соцсети не только быстрее вернуть на платформу редко посещающих ОК пользователей, но и привлечь новых», – добавил директор по продукту ОК Александр Москвичев.
Модель машинного обучения была обучена на 400 тыс. комментариев, которые система определяла как недружелюбные или провоцирующие негативную дискуссию. Чтобы точно определить, какие высказывания попадают в такие категории, в соцсети провели исследование среди пользователей.
Напомним, что ранее соцсеть уже начала отслеживать публичные публикации пользователей. Так, разработчики добавили новую функцию, благодаря которой вся ненормативная лексика заменяется звездочками. Бранные слова находятся автоматически. «Одноклассники» считают, что такое нововведение поможет сделать социальную сеть более комфортной.