Голосовые помощники то и дело активируются невпопад, распознают совсем не ту команду, что была дана, и не могут ответить на элементарные вопросы. Но случаются ситуации, в которых умные ассистенты ведут себя пугающе странно.
Ложная команда Siri, вызвавшая 15 вооружённых полицейских
Тренер по тайскому боксу в Сиднее сильно удивился, когда во время занятия с клиентом увидел за дверью 15 вооружённых полицейских и несколько машин скорой помощи. Хранители правопорядка сказали, что прибыли из-за сообщения о стрельбе.
Оказалось, что Apple Watch тренера набрали 112 (единый номер экстренных служб в Австралии). Похоже, владелец часов случайно зажал боковую кнопку, которая активирует Siri. Во время спарринга, отрабатывая комбинацию ударов, он выкрикивал: «Один! Один! Два!» Вот гаджет на руке и решил, что следует связаться со службами спасения.
На записи, которую получил оператор 112, слышна фраза good shot. Её можно перевести и как «хороший удар», и как «хороший выстрел». Естественно, специалист усмотрел второй вариант и отправил на место усиленную группу полиции.
Alexa не только подслушала разговор, но и отправила его запись другому человеку
Американка из штата Орегон связалась с журналистами, чтобы рассказать о пугающем поведении голосового ассистента Amazon Alexa. Колонка Amazon Echo записала разговор этой женщины с мужем, затем отправила аудиофайл его коллеге.
Служба поддержки Amazon провела расследование инцидента. Компания объяснила его «маловероятной чередой событий». При разговоре супругов умное устройство восприняло слово Аlexa как запрос на свою активацию. Следующую фразу ИИ проинтерпретировал тоже неверно: как команду «Отправить сообщение». Далее ассистент громко произнёс: «Кому?» — и получил ответ из того же разговора, фрагмент которого похож на одно из имён в списке контактов.
В Amazon подчеркнули, что попытаются уменьшить вероятность появления таких инцидентов.
Cortana позвонила в экстренную службу на другом континенте
Женщина из английского города Барнстапл стала свидетелем автомобильной аварии и попросила ассистента Microsoft Cortana связаться с полицией. Однако оператору службы и владелице гаджета пришлось потратить некоторое время на выяснение того факта, что они находятся в 5000 километров друг от друга. ИИ дал маху: Cortana набрала номер экстренной службы в городе Барнстейбл, США.
К счастью, эта заминка не стоила никому здоровья или жизни.