Практически каждый из нас сталкивался с буллингом или токсичными комментариями под самыми обычными постами или фото. А в последнее время и вовсе материалов с нецензурной лексикой, негативом и осуждением стало еще больше.
Ввиду этого, разработчики социальной сети «Одноклассники» (ОК) внедрили в платформу искусственный интеллект, который позволил сократить долю токсичных высказываний на 47%. Теперь любой контент, не отвечающий правилам общения площадки, выявляется в пределах от одного до 24 часов, а их авторы ограничиваются в написании гневных комментариев.
На основе опроса ОК выяснилось, что около четверти пользователей испытывают негативные эмоции после получения провоцирующего или негативного комментария.
«Мы видим по запросам пользователей, что у нашей аудитории есть потребность в пространстве для безопасного и уважительного общения: треть всех жалоб на платформе связаны с негативными, по мнению пользователей, комментариями, а 80% обращений в службу поддержки по поводу комментариев нацелены против «токсичности». Мы обучали эту модель больше года и продолжим совершенствовать её в дальнейшем. Вместе с другими продуктовыми решениями, которые мы внедрили за последние два года, ограничение токсичных комментаторов позволит соцсети не только быстрее вернуть на платформу редко посещающих ОК пользователей, но и привлечь новых», – объяснил Александр Москвичев, директор по продукту социальной сети.
Прежде ОК научилась автоматически определять нецензурные слова и скрывать их, а также размывать изображения эротического характера.
Напомним, ранее мы писали, что согласно результатам опроса «Одноклассников», 40% россиян не меняли пароли с момента первой регистрации. Подробнее читайте здесь.