Всем привет!
Мы снова вернулись с очередным обновлением продукта. Несколько дней назад мы представили некоторые важные улучшения в системе подбора игроков, в этом посте мы собираемся поделиться некоторыми важными новостями о Minerva и ее улучшенных возможностях по борьбе с токсичностью.
После месяцев напряженной работы по проверке тысяч сообщений текстового чата на предмет оскорбительной лексики и токсичного поведения наш администратор, почти человек, Минерва, теперь может слышать и понимать голосовые сообщения на всех языках!
15 Месяцев Минервы:
В прошлом году мы начали наш путь к снижению токсичного поведения в многопользовательских онлайн-играх, выпустив первую версию Minerva, нашего администратора на базе искусственного интеллекта, способного обнаруживать и принимать меры против токсичных сообщений в бесконечном масштабе.
В таблице ниже представлен краткий обзор нескольких точек данных, которые хорошо обобщают объем работы Минервы за последние месяцы. Как видите, одними только людьми это было бы невозможно!
Несмотря на такие несомненные и обширные усилия и отличные результаты, которые Minerva достигла с момента ее первого выпуска, мы знали, что есть еще несколько областей улучшения, в которые мы должны инвестировать, чтобы сделать действия Minerva еще более эффективными.
В частности, были другие формы токсичности, которые не были обнаружены Минервой в ее первой версии, с токсичным поведением, связанным с игровым процессом (игроки, действующие как препятствия для товарищей по команде, оставаясь AFK, преднамеренный дружественный огонь, блокирование, огорчение) и потенциальные оскорбительные и оскорбительные выражения. через голосовые каналы, которые являются двумя основными направлениями.
Чтобы выявлять и принимать меры против негативного поведения в игровом процессе, мы запустили портал Justice, управляемый сообществом, который благодаря бесконечным усилиям многих членов сообщества - судей - сумел разрешить более 60 000 дел и назначить почти 30 000 наказаний с момента его запуска в апреле. Мы хотели бы воспользоваться этой возможностью, чтобы поблагодарить всех, кто внес свой вклад, и пригласить всех вас присоединиться к битве, подав заявку на должность судьи справедливости, чтобы помочь нам в рассмотрении еще большего числа дел!
Добившись больших успехов в решении этих проблем с игровым процессом, до сегодняшнего дня мы еще не решали проблему токсичного поведения с помощью голосового чата. Вы сказали нам, что обнаружение текста не зашло достаточно далеко. В ответ большие новости заключаются в том, что теперь Минерва может анализировать голосовые сообщения и принимать меры против токсичного поведения и словесных оскорблений! Благодаря кропотливой работе наших технологий и данных команд, Минерв теперь способен анализировать аудио источников данных и обнаружить два типа возможных злоупотреблений: токсичные вербальных сообщений и спама в микрофон.
Обнаружение токсичных словесных сообщений:
Проще говоря, общий подход Минервы остается прежним. Если в матче об игроке сообщают другие игроки, Минерва прыгает на него, чтобы просмотреть демонстрацию матча, и она оценивает, что происходит (аналогично тому, что сделал бы человек-администратор), чтобы решить, нужно ли дать бан игроку или нет.
Все голосовые сообщения сначала транскрибируются в письменной форме с использованием технологии «Speech-to-Text», а затем просматриваются Минервой, которая присваивает «оценку токсичности» с помощью модели машинного обучения.
Чтобы правильно оценить каждый случай и принять верные решения, Минерва анализирует всю беседу, которая произошла между игроками во время матча. Это важный аспект, который делает процесс в целом более надежным и менее подверженным ошибочным интерпретациям, которые могут возникнуть при анализе отдельных и отдельных сообщений.
На изображении ниже представлен быстрый пример совпадения, которое недавно было проверено Минервой - все проанализированные и проверенные данные рассматриваются в контексте всего матча.
Обнаружение микрофонного спама:
Новые возможности Минервы не ограничиваются обнаружением потенциально опасных голосовых сообщений. Она также способна распознавать другие формы токсичности, которые, к сожалению, могут произойти во время матча: экстремальный меломан, который любит громко делиться своей (сомнительной) звуковой библиотекой, тот, кто начинает кричать без видимой причины, чрезвычайно искаженные звуки и т. на. Хотя все мы знаем, что игроки могут отключать звук по отдельности, мы хотели, чтобы Минерва по-прежнему могла обнаруживать все эти случаи и наказывать повторяющееся раздражающее поведение.
Чтобы достичь этого, Минерва просматривает аудиофайл матча и, применяя технологию CNN (сверточная нейронная сеть), она может распознать одно из описанных выше негативных явлений и выдать предупреждение или запрет в случае, если игрок был пойман несколько раз. раз. В настоящее время Minerva автоматически отмечает случаи микрофонного спама, при этом предупреждения распространяются только после того, как модератор-человек смог их просмотреть. Этот процесс будет автоматизирован в новом году, после того как Минерва узнает немного больше.
Итоги:
Минерва уже очень помогает, и после этого обновления ее анализ и действия станут еще более точными и обширными. Учитывая, что наша платформа открыта и полностью доступна, каждый день проводится очень значительное количество матчей, и чтобы поддерживать здоровье сообщества и контролировать поведение всех игроков, нам требовалось решение, способное масштабироваться, сохраняя при этом прогрессивное улучшение независимо от обстоятельств. количество дел, которые необходимо рассмотреть. Многие из вас обращаются к нам, чтобы сообщить о негативном поведении, и мы всегда делаем все возможное, чтобы вручную изучить как можно больше из них, но Minerva уже более эффективна, чем человеческий анализ, и мы особенно рады нашему решению инвестировать в это направление с прошлого года. Поэтому обязательно помогите ей и продолжайте сообщать о любом негативном поведении во время и после матча.
статья из оригинального источник: https://blog.faceit.com/minerva-gets-ears-tackling-toxicity-in-voice-chat-3eb80471d005
Переведено до словно на русский.