Activision, создающая такие популярные игровые франшизы, как Call of Duty, предпринимает шаги по борьбе с токсичным поведением, часто встречающимся в чатах онлайн-игр. Компания объединилась с Modulate, специализирующейся на технологиях искусственного интеллекта, для внедрения системы «модерации внутриигровых голосовых чатов».
Новая система, получившая название ToxMod, будет использовать искусственный интеллект для выявления случаев разжигания ненависти, дискриминации и преследования в режиме реального времени во время игры.
Первая бета-версия ToxMod будет выпущена в Северной Америке, начиная с игр Call of Duty: Modern Warfare II и Call of Duty: Warzone. Более широкое распространение запланировано на 10 ноября с выходом новой части франшизы Call of Duty: Modern Warfare III.
Хотя подробная информация о работе ToxMod пока ограничена, она призвана не ограничиваться простой транскрипцией речи. Технология учитывает такие факторы, как эмоции игрока и громкость речи, чтобы отличить вредные комментарии от игривых. Важно отметить, что на данный момент ToxMod не принимает прямых мер против игроков, а отправляет сообщения модераторам Activision. Такое участие человека очень важно для предотвращения предвзятости.