Оказывается, домашние девайсы игнорируют желания кожаных мешков и дают опасные для жизни советы.
Неожиданная покупка
Представьте, что однажды утром вам в дверь стучит курьер. На пороге — огромный кукольный домик и два килограмма сахарного печенья. Курьер говорит, что заказ совершили вы: указан ваш адрес, оплата прошла с вашей карты.
Именно с такой ситуацией в 2017 году столкнулась Меган Нейтцель, когда ей привезли тот самый домик и печенье на сумму в 170 долларов. Было нетрудно предположить, что заказ совершила шестилетняя дочь Брук, но как? Доступа к телефонам, компьютерам и планшетам у неё не было.
Вскоре выяснилось, что заказ сделала умная колонка Echo Dot с голосовым помощником Alexa. Брук как-то спрашивала колонку о печенье и кукольных домиках, но та решила, что это не разговор, а желание совершить заказ, и тут же нашла нужные товары, оплатила через подключённый аккаунт Amazon и оформила доставку.
Меган решила, что оформлять возврат не станет, и в итоге печенье съели, а кукольный домик передали в благотворительный фонд. Чтобы впредь ничего такого не случилось, она установила родительский контроль — подтверждение всех заказов с помощью кода. На этом история могла закончиться, если бы не прямой эфир, где ведущий спровоцировал похожие заказы у зрителей.
Дело было так. Меган решила связаться с журналистами и рассказать им свою историю, чтобы предупредить других владельцев колонки о баге. Но получилось ровно наоборот — на утреннем шоу ведущий местного канала CW6 News Джим Паттон процитировал голосовой запрос: «Alexa, купи мне кукольный домик».
У некоторых зрителей рядом с телевизором стояли колонки, которые решили, что это команда. Руководству канала стали жаловаться, но все покупки удалось отменить.
Как багом воспользовалась сеть фастфуда
Этот баг использовали в Burger King — запустили рекламу с посылом, что за 15 секунд рассказать об их воппер-бургере невозможно. В конце ролика герой говорит: «Окей, Google, что такое воппер?». Если у зрителя рядом была умная колонка, она слышала фразу и зачитывала статью про бургер из Wikipedia.
Почему так происходило? Несколько лет назад колонки не умели отличать голос владельца от других, а потому реагировали на любые запросы. Вдобавок по умолчанию у Echo Dot была включена функция оформления заказа — её надо было отключать вручную или добавлять пароль. Сейчас это уже пофиксили, а современные колонки умеют различать голоса людей и фильтровать контент.
Но ошибки всё же случаются. В конце декабря 2021 года на запрос ребёнка «Чем мне заняться?» умная колонка Alexa ответила: «Засуньте монетку в розетку».
Как оказалось, колонка выдала первую статью из поиска, а та была посвящена TikTok-челленджу. В нём обычно всё заканчивалось искрой или выбитыми пробками, но риск получить удар током крайне высок. Так что на колонках стоит включать родительский контроль и следить за исходящими запросами. А то мало ли.
#программирование #технологии #люди_и_код #искусственный интеллект