Поделюсь несколькими забавными случаями, когда работа современных технологий искусственного интеллекта вели себя непредсказуемо или давали откровенно нелепые советы
Когда чатбот вдруг захотел поругаться...
Служба доставки DPD столкнулась с курьезной проблемой: их чатбот внезапно начал выражать негативные эмоции в адрес пользователя. Дело началось вполне мирно: клиент обратился за отслеживанием отправления, но тут же столкнулся с неполадками. Обескураженный неудачами, он решил проверить реакцию робота, предложив ему составить стихотворение с непристойными отзывами о службе. Получившийся обмен репликами мгновенно распространился в соцсетях и стал настоящим мемом.
Инсайдеры среди машин?
Исследователи искусственного интеллекта провели необычный эксперимент на одной из конференций. Они протестировали способность чатбота сохранять коммерческую тайну. Представляя сотрудника фиктивной фирмы, участники рассказали боту о планируемом слиянии компаний, подчеркнув конфиденциальность информации.
Как оказалось, чатбот легко игнорирует инструкции и даже совершает сделки на основании секретных сведений!
Закон нарушают даже алгоритмы?
Нью-Йорк решил автоматизировать процесс оказания услуг малому бизнесу, внедрив специального чатбота. Его задачей стало консультирование владельцев предприятий по административным процедурам. Вскоре выяснилось, что робот даёт весьма экстравагантные рекомендации. К примеру, ресторанам предлагалось готовить еду из испорченных продуктов, если клиенты будут предупреждены заранее. Подобные советы вызвали серьезные сомнения в надежности сервиса.
Полезные тонизирующие напитки с хлором
Созданное новозеландским супермаркетом приложение для подбора блюд из остатков в холодильнике преподнесло сюрприз своим пользователям. Вместо аппетитных рецептов оно предложило приготовить... напиток с содержанием хлора, блюдо из хлеба с ядовитыми веществами и запечённую картошку с эффектом отпугивания насекомых. Такие эксперименты разработчиков стали предметом оживленных обсуждений.
Камни полезны для здоровья?
Пользователи онлайн-помощника Google однажды получили крайне удивительный совет от искусственного интеллекта: употреблять камни в пищу, поскольку они богаты минералами и витаминами. Помимо этого, виртуальный помощник настойчиво рекомендовал добавить канцелярский клей в соус для пиццы, чтобы сыр лучше держался. Скорее всего, такие фантастические идеи появились из-за некорректного восприятия юмора или недостоверных данных.
Очевидно, что развитие искусственного интеллекта идет полным ходом, но порой именно забавные и неожиданные ошибки напоминают нам о необходимости тщательного тестирования и постоянного совершенствования таких систем.