Ubisoft и Riot Games работают над нейросетью для борьбы с токсичными игроками

Riot Games и Ubisoft объявили о работе над исследовательским проектом по созданию позитивных геймерских сообществ. Его цель — сделать игры более инклюзивными, безопасными и увлекательными. Riot Games и Ubisoft совместными усилиями разработают базу внутриигровых данных для обучения нейросети превентивной модерации. Искусственный интеллект будет обнаруживать и устранять нарушения в игре. При этом любые собранные данные, которые могут идентифицировать личность человека, будут удалены.

Информация об инициативе появилась на официальном сайте Riot Games. Исследовательский проект получил название «Нулевой травматизм в чате». По словам представителей компаний, это первый шаг на пути к инклюзивному и безопасному геймингу, цель которого — принести пользу всем людям, любящим видеоигры. Riot Games и Ubisoft планируют вместе создавать специальные структуры, которые поспособствуют более полезному социальному опыту и помогут избежать вредных взаимодействий между пользователями.

a

Будучи членами Fair Play Alliance, обе компании считают, что улучшение динамики в геймерских сообществах возможно исключительно благодаря общению, сотрудничеству и совместным усилиям крупных представителей индустрии. Благодаря широкому каталогу Ubisoft и популярным играм от Riot Games получится огромная база данных. Она должна охватывать широкий круг юзеров и обучать системы ИИ обнаружению токсичного поведения.

По мере того как игры становятся все более популярными во всем мире, масштабы этой задачи только расширяются. Вот почему Riot Games вкладывает средства в системы искусственного интеллекта, позволяющие фиксировать грубое и опасное поведение пользователей. По мнению представителей компании, чем больше внимания уделяется таким инициативам, тем больше появится позитивных игровых сообществ.

«Сделать онлайн-сообщества более инклюзивными — это постоянная миссия, которая никогда не будет полностью завершена. При этом, работая вместе, мы можем добиться значительных успехов. Мы полны решимости уже в следующем году поделиться со всей отраслью своими знаниями, полученными на первом этапе данной инициативы», — говорится на сайте Riot Games.

Пока одни программисты работают над нейросетями, способными бороться с асоциальным поведением, другие, напротив, создают токсичные ИИ. Так, успешный ютьюбер и эксперт по машинному обучению Янник Килчер обучил свое детище на постах с 4chan. Как известно, портал отличается крайне нетолерантной публикой. Неудивительно, что и нейросеть вышла крайне грубой.