В итоге специалистам пришлось отучать искусственный интеллект от сквернословия.
Разработчикам ИИ-ассистента для управляющих компаний в сфере ЖКХ пришлось переучивать нейросеть после общения с гражданами: голосовой помощник узнал новые для себя матерные слова и начал активно использовать их в своём лексиконе.
Сквернословить робот начал уже после первого месяца работы, рассказал журналистам 12 февраля на площадке Сибирского строительного форума президент Национального объединения организаций в сфере технологий информационного моделирования (НОТИМ) Михаил Викторов.
"Приведу забавный случай: это нейросеть, она учится, и буквально уже в первый месяц разработчики отметили такую ошибку, что нейросеть научилась мату. Как говорится, с кем поведёшься, от того и наберёшься", — цитирует Викторова информагентство ТАСС.
Несмотря на возникшую проблему и тот факт, что специалистам пришлось тратить ресурсы на "перепрошивку" голосового ассистента, данная ситуация является ярким примером активного взаимодействия ИИ-системы с реальными пользователями, отметил глава НОТИМ.
На сегодняшний день голосовые роботы широко используются в ЖКХ и других отраслях, где предполагается общение к клиентами по телефону. Подход, при котором нейросети обрабатывают порядка 80-90% поступающих обращений, позволяет управляющим компаниям существенно экономить за счёт сокращения штата своих кол-центров: при наличии голосового робота вместо 20 операторов могут работать 2-3 человека.
По словам Михаила Викторова, 8 из 10 обратившихся клиентов, как правило, остаются довольны ответами голосового помощника, однако, когда люди разгневаны или речь идёт об экстренных ситуациях, на помощь оперативно приходят реальные люди.
Отметим, что в Петербурге сегодня тоже активно используют нейросети, в том числе и в сфере ЖКХ. В прошлом, 2025 году, искусственный интеллект научили следить за качеством уборки, выявлять заросли борщевика, находить нелегальные ларьки во дворах жилых домов и даже вызывать Росгвардию на детские площадки, если туда наведались хулиганы.
Кроме того, в первых числах января 2026-го искусственный интеллект помог сотрудникам ГАТИ зафиксировать более полусотни нарушений, связанных с уборкой наледи на крышах домов и зданий.
Тем временем в Ленинградской области нейросети научили определять скрытые номера грузовиков, проходящих весогабаритный контроль на региональных трассах. Модуль запустили в пилотном режиме в начале года. Система анализирует изображения автомобилей, а затем ищет сравнения в базах данных и выдаёт оператору список возможных совпадений.
Несмотря на широкое распространения и использование нейросетей в России, доверять им всецело будет ошибкой. Например, попытки "очеловечить" искусственный интеллект для более активного общения с реальными пользователями нередко приводят к тому, что нейросеть начинает предлагать им ответы, которые понравятся, даже если они не соответствуют действительности.
Известны случаи, когда нейросети выдумывают какие-то факты, стараясь как можно подробнее ответить на запрос пользователя без наличия нужных данных, а "признаются" в подлоге только после подробных расспросов. Так отчасти происходит из-за того, что в обучении ИИ принимают участие реальные люди: анализируя ответы нейросетей, большинство из них предпочтёт благожелательный ответ как самый верный, даже если он будет менее точным, а нейросеть запомнит это.
Ситуацию усугубляет и тот факт, что в последнее время Интернете появилось множество ресурсов, где массово публикуют ориентированные на поисковых роботов материалы с ложными данными, чтобы увеличить вероятность их включения в ответы от искусственного интеллекта, рассказывали прошлой осенью "Известия".
Несмотря на эффективность искусственного интеллекта отдельных сферах, всеобщая эйфория от возможностей ИИ постепенно сменяется недовольством из–за их массового применения. В частности, некоторые студии, занимающиеся разработкой видеоигр, начали принципиально отказываться от использования нейросетей в своих проектах. Подробнее об этой тенденции — в материале "Делового Петербурга".