Разработчики российского голосового помощника для управляющих компаний переполошились: нейросеть за месяц общения с жильцами освоила ненормативную лексику. Срочно кинулись переучивать, фильтры ставить, алгоритмы чистить. А зря.
Думается, тут они совершили стратегическую ошибку. Потому что сфера ЖКХ — это не вежливый кол-центр интернет-магазина, где спрашивают «не желаете ли примерить обновку». Это поле боя. Тут люди звонят не ради приятного разговора. Тут у них трубы лопнули, счета пришли космические, лифт третью неделю стоит, а в подвале крысы.
И если нейросеть, наслушавшись клиентов, сама пришла к выводу, что без мата тут не обойтись, — возможно, это не баг, а фича. Признак того, что искусственный интеллект начал реально вникать в суровые реалии отечественного коммунального хозяйства.
«С кем поведешься» — это не проблема, а диагноз
Президент НОТИМ Михаил Викторов, рассказывая эту историю на Сибирском строительном форуме, философски заметил: «Как это говорится, с кем поведешься, от того и наберешься» .
И ведь точнее не скажешь. Нейросеть просто отразила реальность. Люди, звонящие в ЖКХ, в 80% случаев, по статистике, удовлетворены ответом робота . Но оставшиеся 20% — это те самые «сложные и конфликтные ситуации», когда человек раздражён и требует срочного решения . Именно у этих 20% робот и набрался.
Похоже, разработчики просто испугались собственного детища. А зря. Потому что правильный подход — не отучать нейросеть от мата, а научить её ругаться со вкусом, уместно и с нужной интонацией.
Эмоциональный интеллект: почему мат — это часть коммуникации
В суровых буднях ЖКХ ненормативная лексика выполняет несколько важных функций:
- Сигнал тревоги. Когда человек матерится, это значит, что ситуация вышла из-под контроля. Робот, распознавший мат, должен не обижаться, а мгновенно переводить вызов на живого оператора. Собственно, так оно сейчас и работает .
- Маркер искренности. Слишком вежливые формулировки часто воспринимаются как фальшь. А грубость — как честность. Если робот научится в нужный момент вздыхать, говорить «ну ё-моё» или даже позволять себе лёгкую иронию в ответ на идиотские проблемы, доверие к нему вырастет.
- Разрядка напряжения. Психологи знают: если человек выругался и получил адекватную реакцию (не испуг, не агрессию, а понимание), он успокаивается быстрее. Робот, который не шарахается от мата, а спокойно его обрабатывает и решает вопрос, — это робот с эмоциональным интеллектом.
Что можно было бы сделать вместо запретов
Вместо того чтобы срочно «устранять коллизию», разработчики могли бы пойти другим путём:
Обучить нейросеть различать оттенки. Есть мат-ругательство, а есть мат-междометие. Есть агрессия, а есть бессилие. Если робот научится это различать, он сможет точнее оценивать ситуацию.
Дать право на ответную эмоцию. Не посылать клиента, конечно, но хотя бы сочувствовать с нужной интонацией. «Да уж, достали вас эти счета, я понимаю» — это одно. А «Да уж, достали вас эти счета, я понимаю, блин» — это уже диалог равных.
Создать словарь санкционированного мата. Почему бы и нет? В конце концов, в некоторых культурах есть официально разрешённые ругательства. Для ЖКХ можно разработать список выражений, которые робот может использовать в ответ на особо тяжкие случаи.
Ирония судьбы: робот оказался честнее людей
Самое смешное, что нейросеть, выучившая мат, возможно, была честнее, чем её создатели. Она не притворялась, что всё хорошо. Она просто отразила то, что слышала.
И пока мы боремся с симптомами — убираем нехорошие слова из ответов алгоритма, — причина остаётся. Люди продолжают злиться, трубы продолжают рваться, счета продолжат удивлять.
Можно предположить, что настоящий прорыв в сфере ЖКХ случится не тогда, когда робот перестанет материться, а когда у людей исчезнут поводы для мата. Но до этого, кажется, ещё далеко. Так что пусть уж робот учится жить в реальном мире.
А вы как считаете: должны роботы ругаться матом или это перебор? И какой самый адекватный ответ вы слышали от голосового помощника в стрессовой ситуации?
Подписывайтесь на наш Телеграм-канал: коротко по делу.
Также подписывайтесь на канал "LenПанорама".
Если вас заинтересовала тема, рекомендую к прочтению эти книги: