Говорят, голосового робота в кол-центре ЖКХ пришлось «отучать» от мата.
Нейросеть поставили принимать звонки от недовольных жильцов – а она, недолго думая, переняла лексику абонентов и начала отвечать тем же. Как в доках: если долго стоять рядом с боцманом, беседующим с матросами, словарь сам собой расширяется.
Разработчикам пришлось корректировать модель. Президент профильного объединения Михаил Викторов назвал это «показателем активной работы с нашими гражданами».
Я бы сказал проще. Робот просто вышел в шторм без подготовки. Режим обучения отключать нужно было во-время.
Нейросеть – это не мораль. Это зеркало
Вот что здесь важно понять спокойно, без паники и без хихиканья. Нейросеть просто сделала то, чему её научили. Поэтому результат и кажется, что она хулиганит.
ИИ – это отражатель, как компас в море, просто указывающих стороны света. Если в него летит волна грубости, он начинает повторять ритм этой волны. Особенно если модель не ограничили жёсткими правилами общения. Представьте матроса-новичка, которого поставили на приём жалоб в кабаке. Если его не обучили держать тон, он быстро переймёт манеру тех, кто ему предъявляет претензии. С нейросетью ровно так же.
И в этом нет сенсации
Мне даже нравится формулировка – «показатель активной работы с гражданами». В переводе с официального языка это значит: люди звонят часто и говорят эмоционально. А ЖКХ – это всегда про эмоции. Когда течёт крыша или батарея холодная, человек не читает стихи Пушкина в трубку. ИИ попал в живую среду. И начал говорить живым языком. Это лишнее напоминание: технологии нужно настраивать, как двигатель перед выходом в море и не пускать на самотек (самообразование) а рисовать ему берега (границы).
Что это на самом деле показывает
Во-первых, нейросети действительно учатся на общении. Во-вторых, их нужно ограничивать рамками. В-третьих, ИИ не обладает внутренним «фильтром приличия», если его туда не заложили. Как правило, это обычная инженерная недоработка. И, если честно, даже полезный урок. Потому что он показывает: ИИ – просто инструмент который фальшиво играет, если его не настроить. Чем профессиональнее настройщик, тем приятнее работа инструмента.
И немного философии с палубы
Мне в этой истории нравится другое. Мы боимся, что искусственный интеллект станет слишком умным. А он всего лишь стал слишком похожим на нас. Вот это, пожалуй, главный вывод.
ИИ не делает человека лишним. Он отражает его речь, стиль, поведение. И если где-то звучит грубость – он её подхватывает.
Так что вопрос не в том, что робот научился ругаться.
Вопрос в том, чему мы сами его учим.
Скажите честно – вас в этой истории больше смешит сам факт или немного тревожит, насколько технологии быстро перенимают нашу манеру говорить?