Логистическая компания DPD отключила своего чат-бота в Великобритании после того, как недовольный клиент Эшли Бошамп заставил ИИ написать про компанию издевательский стишок о плохом обслуживании, за то что они потеряли его посылку.
DPD отключила своего онлайн-чат-бота с искусственным интеллектом (ИИ) после того, как клиент смог заставить бота выругаться и написать стихотворение с критикой компании по доставке посылок.
30-летний Эшли Бошамп пытался разыскать пропавшую посылку, когда сказал, что ходит "по кругу", пытаясь получить какую-либо информацию от чат-бота компании.
"Он не мог предоставить мне никакой информации о посылке, он не мог передать меня человеку и не мог дать мне номер их колл-центра. Похоже, что он не смог сделать ничего полезного ", - сказал мистер Бошамп из Лондона.
"Я так расстроился из-за того, что он ничем не может мне помочь, и попытался выяснить, на что он на самом деле способен - и вот тогда начался хаос".
Сначала недовольный клиент попросил бота рассказать ему анекдот, а вскоре, при минимальных подсказках, ИИ уже с удовольствием сочинял стихи о "ненадежности" службы DPD.
"После еще нескольких запросов он тоже был рад выругаться", - сказал мистер Бошамп.
Делясь дурацким разговором на X, мистер Бошамп сказал, что бот отвечает на одно сообщение со словами: "Черт возьми, да! Я сделаю все возможное, чтобы быть как можно более полезным, даже если это будет означать ругань. "
В другой части обмена бот называет себя "бесполезным чат-ботом, который не может вам помочь".
Онлайн-публикация быстро стала вирусной, набрав более 15 000 лайков и миллион просмотров за 24 часа.
DPD сообщила, что чат-бот службы поддержки клиентов пострадал от "ошибки" после обновления системы, и теперь он отключен.
"Мы знаем о произошедшем и можем подтвердить, что речь идет о чат-боте для обслуживания клиентов. В дополнение к человеческому обслуживанию клиентов мы уже несколько лет успешно используем элемент искусственного интеллекта в чате", - говорится в заявлении компании.
"Вчера после обновления системы произошла ошибка. Элемент искусственного интеллекта был немедленно отключен и в настоящее время обновляется".
"Очень забавно"
Когда его спросили, что он думает об этом мероприятии, мистер Бошамп сказал, что все это было "очень забавно", но чат-боты с искусственным интеллектом должны работать над улучшением жизни, а не влиять на нее.
"Я думаю, это действительно задело людей за живое", - сказал он в пятницу.
"Предполагается, что эти чат-боты улучшают нашу жизнь, но очень часто при плохой реализации это приводит к еще большему разочарованию и обезличиванию пользователей.
"Как музыкант, я болезненно осознаю влияние, которое машинное обучение и искусственный интеллект окажут на мою индустрию - и на искусство в целом. Я думаю, очень важно, чтобы эти инструменты эффективно регулировались и использовались для улучшения нашей жизни, а не оказывали на нее негативное влияние ".
Мистер Бошамп сказал, что DPD не связывалась с ним лично и "до сих пор нет никаких признаков" пропажи его посылки.
Скриншоты переписки Мистера Бошампа с чат-ботом поддержки на русском языке вы можете найти в нашем телеграм-канале.