Платформа FACEIT, созданная для проведения профессиональных соревнований в рамках многопользовательских онлайн видеоигр, объявила о партнерстве с Jigsaw от Google, в рамках которого будет создана ИИ-система для выявления и наказания "токсичных" игроков.
Благодаря платформе FACEIT, на которой каждый день проходят тысячи матчей между игроками, между игроками отправляется множество сообщений в чате. К сожалению, многие из этих сообщений содержат оскорбления и ненормативную лексику, а модерирование всех сообщений администраторами является почти невыполнимой задачей, особенно в реальном времени.
Партнерство FACEIT и Jigsaw привело к появлению Minerva , первого ИИ-администратора для киберспорта. ИИ использует машинное обучение для выявления сообщений в чате, которые могут считаться "непечатными" или оскорбительными, а затем выдает предупреждение и помечает последующие сообщения как спам. Как только игра закончится, Minerva может назначить такие наказания, как запреты. Для правонарушителей-"рецидивистов" наказания могут ужесточаться, и все это делается без необходимости модерации человеком.
В первые шесть недель работы Minerva проанализировала более 200 000 000 сообщений чата в матчах CS:GO, и сочла 7 000 000 из них "токсичными". Было сделано 20 000 запретов за злоупотребления и спам.