Игровое сообщество уже давно сталкивается с проблемой токсичного поведения и оскорбительных высказываний в голосовых чатах, особенно в таких популярных играх, как серия Call of Duty. Признавая необходимость решения этой проблемы, компания Activision совместно с компанией Modulate, специализирующейся на передовых технологиях, представила систему мониторинга голосовых чатов на основе искусственного интеллекта под названием "ToxMod". Эта революционная система призвана выявлять и устранять неподобающее поведение в режиме реального времени, обеспечивая более приятную и уважительную игровую среду.
В своем недавнем заявлении на сайте CallofDuty.com компания Modulate сообщила, что ToxMod выходит за рамки традиционной фильтрации слов. Хотя он эффективно выявляет случаи разжигания ненависти, преследования и дискриминации, ИИ также обладает удивительной способностью различать тон, намерения и контекст в человеческой речи. Это позволяет ToxMod выявлять более тонкие формы неадекватного общения, в том числе попытки вербовки в экстремистские группировки или незаконные действия с участием несовершеннолетних.
Изначально ToxMod использовался в основном в небольших VR-играх, одним из ярких примеров которых является Among Us VR. Однако наиболее значительная его реализация произошла в рамках франшизы Call of Duty, где он призван решить давнюю проблему нежелательных встреч в голосовом чате. Интеграция ИИ в игры Call of Duty: Modern Warfare II и Warzone в настоящее время находится на стадии начального бета-тестирования.
Работа ToxMod заключается в мониторинге голосовых чатов во время многопользовательских матчей. Он активно анализирует речевые паттерны, учитывая языковые нюансы и голосовые сигналы для определения характера разговора. При обнаружении потенциальных нарушений отмеченная речь автоматически записывается и впоследствии проверяется модераторами-людьми, нанятыми компанией Activision. Такой гибридный подход обеспечивает точность и справедливость оценок ИИ.
Сотрудничество искусственного интеллекта и людей-модераторов подчеркивает стремление Activision поддерживать разнообразное и инклюзивное игровое пространство. Кодекс поведения компании прямо запрещает уничижительные комментарии по различным признакам, таким как раса, гендерная идентичность, сексуальная ориентация, возраст, культурное происхождение, вероисповедание и т.д. Соответственно, нарушение этих правил игроками при голосовом общении в игре может повлечь за собой различные последствия, включая временное отстранение от игры и даже постоянный запрет в случае серьезных или повторных нарушений.
По мере тестирования и оптимизации системы искусственного интеллекта на стадии бета-тестирования предполагается, что область применения ToxMod будет расширяться. Хотя в настоящее время система ориентирована на англоязычные голосовые чаты, Activision планирует расширить ее возможности для работы с несколькими языками, что будет способствовать более глобальному применению этой инновационной технологии.
Ожидается, что выход игры Call of Duty: Modern Warfare III в ноябре совпадет с полным развертыванием ToxMod. Игроки могут рассчитывать на более уважительное и доброжелательное отношение к ним в онлайновой игровой среде, где искусственный интеллект в сотрудничестве с человеческими модераторами обеспечивает своевременное устранение случаев токсичности.
В заключение следует отметить, что сотрудничество Activision с компанией Modulate представляет собой значительный шаг вперед в решении давней проблемы токсичного поведения в онлайн-играх. Внедрение ToxMod, голосового монитора чата на основе искусственного интеллекта, обещает игрокам Call of Duty более приятный и инклюзивный игровой опыт. Различая не только явные высказывания, но и тонкие сигналы и контекст, система демонстрирует потенциал искусственного интеллекта в продвижении позитивного взаимодействия в игровом сообществе.
Посмотрите как Goole будет использовать ИИ в совещаниях:
PS: Уважаемые читатели не забывайте ставить лайки если статья Вам понравилась, это помогает развитию канала. Заранее спасибо!
⚡⚡⚡ Друзья! Если вам нравится то, что я делаю, и вы хотите, чтобы это продолжалось, приглашаю поддержать меня и внести свой посильный вклад. Вместе мы сила! Спасибо за вашу поддержку! ⚡⚡⚡