Ученые Корнеллского университета обучили систему ИИ, которая в реальном времени отслеживает чат и предупреждает пользователя о нарастающем напряжении в разговоре. ИИ не цензурирует посты, а только поднимает флаг, когда разговор, по его мнению, становится слишком резким.
Ученые Корнеллского университета разработали ИИ, который в режиме реального времени может помочь в модерировании дискуссий, особенно на острые темы. Ученые используют методы прогнозирования диалогов на естественном языке и показывают, чем они полезны и в работе модераторов, и в чатах пользователей, чтобы сделать онлайн-общение более комфортным и продуктивным.
«Участники дебатов — это просто люди. В разгар спора о том, что их очень волнует, они часто реагируют эмоционально и понимают, что сильно погорячились только постфактум», — говорит ведущий автор работы Джонатан Чанг.
По словам Чанга, идея новый системы состоит не в том, чтобы указывать пользователям, что говорить, а в том, чтобы побудить его общаться так, как если бы разговор шел оффлайн.
Инструмент получил название ConvoWizard. Это расширение для браузера, основанное на глубокой нейронной сети. Сеть была обучена на множестве языковых данных, взятых из форума Change My View (на Reddit). Этот форум отдает приоритет добросовестным дебатам на потенциально острые темы, связанные с политикой, экономикой и культурой.
Пример работы ConvoWizard
Проверка в реальном онлайне
Чтобы протестировать ConvoWizard, исследователи сотрудничали с форумом Change My View, где около 50 модераторов и участников форума использовали этот инструмент. Выводы были положительными: 68 % считают, что инструмент оценивает риски так же хорошо (или даже лучше), как их собственная интуиция. Более половины участников эксперимента сообщили, что предупреждения ConvoWizard помешали им опубликовать комментарий, о котором они бы потом пожалели.
Ученые планируют провести тестирование и на других платформах. Кажется, сегодня такой инструмент просто необходим.