Чат будет сканироваться с помощью искусственного интеллекта, который удалит нецензурную лексику и видоизменит сообщения так, чтобы они были более подходящими под требования платформы. Эксперты отмечают, что за нецензурной бранью в играх для детей действительно нужно следить, при этом общий контроль над медиаполем продолжает расти
Раньше в чате Roblox нецензурная лексика в сообщениях попросту закрывалась значком решетки. При этом из-за того, что на платформе играют дети со всего мира на разных языках, под такую цензуру попадали зачастую совсем безобидные выражения. Грубо говоря, сочетания каких-то слов и букв на русском языке могли, например, быть матерным выражением на условном арабском. Из-за этого чат в Roblox нередко почти полностью состоял из решеток, а игроки негодовали. В руководстве платформы признали, что это неэффективно и мешает общению, и заявили, что теперь за сообщениями в чате будет следить искусственный интеллект.
В играх матерная лексика цензурируется довольно часто, но в зависимости от целевой аудитории конкретного проекта, отмечает гендиректор компании Games for Gamers, преподаватель программы «Менеджмент игровых проектов» Высшей школы бизнеса НИУ ВШЭ Константин Сахнов:
Константин Сахнов гендиректор компании Games for Gamers, преподаватель программы «Менеджмент игровых проектов» Высшей школы бизнеса НИУ ВШЭ
«Если мы говорим про игры в первую очередь для детской аудитории, это вполне допустимые меры. Если же мы будем говорить об играх, которые нацелены на более взрослую аудиторию, подобные алгоритмы, конечно, вызывают определенные негативные эмоции игроков. Средний геймер в России — это все-таки человек за 35 лет. Когда такой человек садится поиграть часочек в World of Tanks, а ему не дают сказать его любимое выражение оппонентам, конечно, это вызывает определенный негатив. Опасения ужесточения цензуры полностью обоснованы, уровень цензуры в компьютерных играх, социальных сетях, мессенджерах в западных странах достаточно высокий. Факт — уровень контроля над интернет-пространством продолжает расти».
За тем, кто и что может говорить в медиаполе, в последние годы начинают следить все более тщательно по всему миру. В каких-то странах ограничивают соцсети для несовершеннолетних, где-то ругаются на платформу X (заблокирована в РФ), которая, по мнению европейских властей, предоставляет слишком много свободы слова.
Цензура рано или поздно появится везде, но то, как это реализовал Roblox, вызывает вопросы, указывает генеральный директор «А-Я эксперт», старший преподаватель кафедры «Кибернетика» НИЯУ МИФИ Роман Душкин:
Роман Душкин генеральный директор «А-Я эксперт», старший преподаватель кафедры «Кибернетика» НИЯУ МИФИ
«Сейчас очень большое количество разработчиков столкнется с тем, что регулятор постепенно подтягивается к технологиям. Рано или поздно премодерация контента будет везде. Но не в таком виде, что ИИ-агенты, которые встроены внутри Roblox, будут что-то заменять. Вот это опасная, скользкая тема. На каком основании он будет заменять слова? А вдруг пользователь сказал одно, ИИ-агент заменит по своему разумению, получится совершенно противоположный смысл. Потом докажи, что это пользователь сделал или агент, у кого какое намерение было. Это классическая дилемма — казнить нельзя помиловать. Кто поставил запятую: ИИ-агент или сам пользователь?»
Эксперты напоминают, что уже сейчас в соцсетях в том или ином виде есть премодерация контента. Например, в том же TikTok видео, которые публикуют пользователи, сначала отсматривают модераторы и алгоритмы на основе ИИ. По тем же принципам работает и YouTube, чтобы пользователи не загружали пиратский контент.
Roblox заблокировали в России и еще в ряде стран как раз за то, что у игры очень плохая модерация. Помогут ли ИИ-агенты исправить ситуацию — вопрос открытый, особенно учитывая такой вызывающий вопросы механизм, когда идет прямая замена того, что пишет пользователь, на то, что платформа по каким-либо причинам считает правильным.
Хотите всегда быть в курсе? Подписывайтесь на Telegram-канал «Бизнес FM»