За все это будет отвечать нейросеть — она будет находить публикации, которые провоцируют агрессию и блокировать их. Сейчас нейросеть учится определять расизм, гомофобию, сексизм и другие предрассудки, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний.
Чтобы прокачать нейросеть за счет пользователей и научить ее определять враждебный язык, ВКонтакте добавила новую категорию жалоб — «Враждебные высказывания»
Сразу вспоминается, когда нейросеть тренировали на Twitter, но она стала очень политичной и высшим проявлением ксенофобии. ВКонтакте следит за обучением нейросети через модераторов, так что научить ее гадостям — не выйдет.
https://in-your-eyes.ru/vk-rabotaet-nad-ii-dlya-raspoznavaniya-vrazhdebnyh-vyskazyvanij/