Разработчикам пришлось объяснять нейросети, что нецензурная брань — это плохо.
Разработчики отечественного голосового помощника для управляющих компаний в сфере ЖКХ столкнулись с неожиданной проблемой. Нейросеть начала использовать ненормативную лексику. Об этом сообщает ТАСС со ссылкой на президента Национального объединения организаций в сфере технологий информационного моделирования (НОТИМ) Михаил Викторов.
Инцидент произошел в первые месяцы работы системы.
«Приведу забавный случай, это нейросеть, она учится, и буквально уже в первый месяц разработчики отметили такую коллизию, что нейросеть научилась мату. Но, как это говорится, с кем поведешься, от того и наберешься. Поэтому эту коллизию, конечно, пришлось устранять. Но тем менее это показатели активной работы с нашими гражданами», — сказал Викторов на полях Сибирского строительного форума.
Сокращение штата
По словам представителя НОТИМ, внедрение голосовых роботов позволяет значительно сократить штат операторов управляющих компаний. Он отметил, что вместо 20 сотрудников кол-центра может работать два-три человека. Нейросеть берет на себя 80–90% всех обращений.
По статистике, около 80% заявителей удовлетворяются ответами голосового помощника и не требуют перевода на живого оператора.
Когда нужен человек
При этом Викторов подчеркнул, что существуют нетипичные и экстренные ситуации, в которых без участия человека не обойтись. В частности, речь идет о случаях, когда граждане находятся в эмоциональном состоянии или происходит авария. Тогда обращение передается специалисту, способному принять оперативное решение.
Разработчики продолжают совершенствовать систему, чтобы минимизировать подобные «обучающие эффекты» и повысить качество общения с пользователями.
Еще больше новостей — у Пятого канала в мессенджере MAX.