ИИ-боты все лучше и лучше имитируют реальный разговор, что в то же время часто приводит к серьезным ошибкам. Одну из таких ошибок описал в своем Twitter (ныне - соцсеть Х, заблокирована в РФ) Эшли Бошамп, чей пост получил огромную популярность в сети. Это неудивительно, ведь в нем содержались примеры вульгарного поведения чатбота курьерской компании DPD.
Примечательно, что ругательные высказывания чатбота были спровоцированы самим Бошампом, который отметил, что искусственный интеллект был совершенно бесполезен и ничем не смог помочь ему с посылкой. Тем не менее, чатбот показал свое "настоящее лицо".
Бошамп "уговорил" ИИ начать материться, хотя сам ИИ указывал, что это запрещено. Он также попросил его высказать негативное мнение о DPD и порекомендовать другую курьерскую компанию. Чатбот также с легкостью написал приветствие о том, как он бесполезен и какая ужасная компания DPD.
Таким образом, непродуманное внедрение чатбота с искусственным интеллектом может привести к огромному недоразумению с репутацией.
Проблема с чатботом DPD вряд ли удивительна. Не так давно другой чатбот, работающий в автосалоне, по просьбе пользователя согласился продать автомобиль за один доллар. В обоих случаях функцию пришлось отключить. Однако можно предположить, что чатбот DPD еще вернется, хотя и в несколько измененном виде.