Голосовой ИИ для ЖКХ в России начал ругаться матом с клиентами
В России голосовой робот для ЖКХ неожиданно освоил нецензурную лексику. Разработчики были удивлены поведением ИИ. Им пришлось срочно вмешаться и изменить алгоритмы. Система уже вернулась к корректному общению.
Фотография: Peterburg2.ru
В российской сфере ЖКХ произошел неожиданный технологический казус: голосовой робот, внедренный для автоматизации работы управляющих компаний, за короткое время освоил не только стандартные фразы, но и крепкие выражения. Уже в первый месяц работы искусственный интеллект начал отвечать клиентам с использованием мата, что стало полной неожиданностью для команды разработчиков.
Как сообщает ТАСС со ссылкой на президента Национального объединения организаций в сфере технологий информационного моделирования Михаила Викторова, специалисты были вынуждены срочно вмешаться в работу системы. По словам Викторова, нейросеть быстро переняла манеру общения у самих абонентов, с которыми ей приходилось взаимодействовать. «С кем поведешься, от того и наберешься», - иронично заметил он, подчеркивая, что подобный эффект был вполне предсказуем, учитывая специфику обращений в коммунальные службы.
Для многих жителей появление нецензурных выражений в ответах робота стало настоящим шоком. Люди не ожидали услышать от искусственного интеллекта столь откровенные реплики. Однако для разработчиков этот инцидент стал поводом задуматься о том, насколько быстро современные ИИ-системы способны адаптироваться к языковой среде и даже перенимать нежелательные привычки пользователей.
Несмотря на курьез, голосовые роботы продолжают активно внедряться в работу управляющих компаний. Их основное преимущество - значительное сокращение штата операторов колл-центров. Если раньше на обработку обращений требовалось до двадцати сотрудников, то теперь достаточно двух-трех специалистов, а до 90% звонков обрабатывает нейросеть. По словам Викторова, около 80% жителей вполне довольны работой голосового помощника, а на живого оператора переводят только в сложных или аварийных ситуациях, когда требуется срочная реакция.
Случай с матом в исполнении искусственного интеллекта стал ярким примером того, как технологии могут неожиданно выйти из-под контроля, если не уделять должного внимания их обучению и корректировке. Разработчикам пришлось оперативно «отучать» нейросеть от использования ненормативной лексики, чтобы вернуть систему в рамки делового общения. Этот эпизод наглядно показал, что даже самые современные решения требуют постоянного контроля и доработки, особенно когда речь идет о взаимодействии с широкой аудиторией. Ранее мы писали: «ЛЭТИ представил новый алгоритм для защиты "умных городов" от кибератак».
Подпишитесь на нас в MAX и Телеграм, следите за новыми публикациями на Дзен канале. Тут интересно и круто.