Roblox начала использовать ИИ для цензурирования чатов
Нецензурные слова и фразы будут автоматически трансформироваться в более корректные и уважительные, но с сохранением первоначального смысла.
Игровая платформа Roblox прибегла к помощи искусственного интеллекта для цензурирования чатов в режиме реального времени.
Сейчас запрещенные выражения заменяются символом #. Но при помощи ИИ такие слова и фразы теперь могут быть «переведены на более уважительный язык, который остается ближе к первоначальному замыслу пользователя». При этом участники чата получат уведомление, что текст был изменен «для поддержания приличий».
К слову, аналогичным способом Minecraft модерирует нецензурную лексику в некоторых чатах. Правда, фильтр игры Mojang Studios только заменяет запрещенные слова символами и блокирует сообщения, содержащие их, а не перефразирует сам текст.
Новая функция в Roblox доступна только для чатов между игроками, которые прошли проверку возраста и находятся в похожих возрастных группах.
Напомним, Roblox в феврале начал требовать от игроков проверку возраста для использования чата на своей платформе. После прохождения процедуры пользователь может общаться с игроками в похожих возрастных группах.
Игровая платформа планирует активнее расширять свою взрослую аудиторию. К концу января проверку возраста прошли 45% пользователей Roblox, из которых 27% оказались старше 18 лет.
С начала года пользователи начали получать бессрочный бан в Roblox за обход блокировок вне зависимости от возраста, репутации и вложенного времени.
]]>