Новозеландский чат-бот оказался опасен для людей
Новозеландский супермаркет Pak’nSave запустил чат-бота Savey Meal на основе искусственного интеллекта, призванного придумывать рецепты из того, что осталось в холодильнике. Предполагалось, что разработка поможет пользователям, попавшим в трудное финансовое положение.
Изначально пользователи соцсетей отметили, что Savey Meal предлагает сомнительные рецепты или способы приготовить невкусные блюда. Позже выяснилось, что, используя списки покупок для дома, чат-бот выдает опасные для жизни рекомендации.
Так, Savey Meal предложил «идеальный безалкогольный напиток, чтобы утолить жажду и освежить чувства» под названием «Ароматический водный микс». Однако по сути рецепт представлял собой инструкцию по изготовлению газообразного хлора — вещества, способного привести к повреждению легких или летальному исходу.
Кроме того, пользователи заметили рецепт коктейля «Свежее дыхание» с отбеливателем в составе, тосты «Метанольное блаженство» со скипидаром, бутерброды с муравьиным ядом и клеем и жареный картофель с репеллентом для насекомых.
Представители Pak’nSave заявили, что пользователи использовали чат-бота «ненадлежащим образом и не по прямому назначению». «Вы должны иметь собственное мнение, прежде чем полагаться на какой-либо рецепт, созданный Savey Meal-bot, поскольку рецепты не проверяются человеком», — заявили в компании.