Токсичные игроки, к сожалению, являются постоянной проблемой во всех онлайн-играх. Студии пытаются с этим бороться разными методами, в том числе с помощью нейросетей. И, судя по всему, это работает.
Activision поделилась результатами введения нейросети ToxMod для модерации голосовых чатов в Call of Duty: Modern Warfare III и Warzone 2.0. Её представили ещё в 2023 году с релизом шутера, однако технология по-прежнему не поддерживает многие языки. ИИ анализирует разговоры игроков и передаёт информацию о нарушениях на рассмотрение живым модераторам, которые решают, выдавать пользователю бан или нет. Помимо проверки самих фраз, ToxMod учитывает контекст и интонации: так она отличает дружеские подколы и настоящую агрессию.
В результате введения нейросетевой модерации постоянную и повторяющуюся токсичность в голосовых чатах Call of Duty удалось снизить на 67%. При этом более 80% игроков, получивших предупреждение из-за нарушений, выявленных ИИ, более не проявляли агрессивного поведения при общении с тиммейтами. Всего же общий уровень токсичности в голосовом чате упал на 43% с января 2024 года.