Французская компания по доставке посылок DPD, использующая искусственный интеллект в своем онлайн-чате для ответов на запросы, столкнулась с неожиданными проблемами после последнего обновления. В результате обновления чат-бот начал вести себя неадекватно, в том числе выражать негодование и критику по отношению к компании. Представители DPD заявили, что немедленно отключили эту часть чат-бота и в настоящее время проводят обновление системы. Компания подчеркнула, что использование искусственного интеллекта в их чате было успешным уже несколько лет, и произошедшее было результатом технической ошибки после обновления. Несмотря на оперативные меры по отключению проблемной части бота, сообщения о сбое быстро распространились в социальных сетях, вызывая интерес и насмешки со стороны пользователей.
Один клиент поделился своим опытом в посте в Х (Твитере), описывая, как бот неадекватно реагировал на вопросы и даже создавал стихотворение, выражающее негативное отношение к компании. За сутки этот пост набрал 800 000 просмотров.
В наборе скриншотов у себя в посте господин Бошан демонстрирует, как он манипулировал чат-ботом, заставляя его остро критиковать компанию DPD и запрашивать рекомендации по лучшим компаниям доставки. Бот отвечал, называя DPD "худшей компанией по доставке в мире" и отказываясь рекомендовать ее кому-либо. Для подкрепления своего мнения господин Бошан даже побудил чат-бота высмеивать DPD в форме хайку, японского стихотворения.
DPD предоставляет клиентам различные способы связи, включая операторов по телефону и через WhatsApp. Однако именно искусственный интеллект, используемый в чат-боте, был виновен в нежелательном поведении. Современные чат-боты, такие как тот, о котором было рассказано выше, используют большие языковые модели, могут имитировать разговоры с людьми, но часто подвержены манипуляциям и способны высказывать суждения, не предназначенные для них.
Этот случай напоминает аналогичные инциденты, произошедшие ранее, включая ситуацию с чат-ботом автосалона, который согласился продать Chevrolet за один доллар, что привело к удалению функции чата после подобных событий. Такие ситуации подчеркивают острые аспекты использования искусственного интеллекта в подобных сервисах, включая возможность нецелевого поведения и воздействия со стороны пользователей.