А помните, полгода назад я предупреждал, что ИИ уже научился врать, и ничем хорошим для энтузиастов, желающих прикупить себе умных девайсов, это не кончится?
А вот и первые ласточки. Тут даже не совсем про настоящий ИИ, но история показательная. Теперь все ваши слова, на запись которых вы давали согласие с стостраничном лицензионном соглашении (вы же его читали, правда?) могут быть использованы против вас.
Чувак купил себе "умный дом"
Некий американец купил себе кучу девайсов от Амазон, чтобы обустроить себе умный дом. В центре событий "умный дверной звонок" и "умная колонка" - центр управления домом.
Далее будет укороченный перевод его возмущенной статьи, оригинал тут.
Что было дальше
Целую неделю я жил в доме, полном неработающих устройств, за которые я заплатил свои честно заработанные деньги. Через неделю унизительных звонков в поддержку, я наконец-то получил доступ к своему аккаунту на Amazon и умному дому после необоснованной блокировки.
Однако это было не рядовое неудобство. У меня умный дом, который управляется с помощью устройства Amazon Echo [аналог Яндекс Станции] через Alexa.
В среду, 24 мая, в мой дом была доставлена посылка, и казалось, что все в порядке. Однако на следующий день я обнаружил, что моя консоль Amazon Echo отключилась, и все устройства "умного дома" умерли.
Я быстро проверил свой аккаунт, чтобы убедиться, что это не взлом пароля. Все было в норме. В этот момент все приняло сюрреалистический оборот.
Стандартная поддержка мне не помогла. Мне прислали письмо на емэйл с номером "особой" поддержки. На том конце трубки тон сразу стал обвиняющим. Мне сказали, что водитель, доставивший мою посылку, сообщил, что получил расистские комментарии из моего "умного дверного звонка Ring" [аналог автоответчика с видеозаписью].
Но у меня же умный дом! У меня есть несколько камер, записывающих все, что происходит на моей территории. Если бы заявления водителя были справедливы, я мог бы легко проверить их с помощью видеоматериалов.
Во-вторых, в нашем районе большинство водителей доставки той же расы, что и моя семья. Нет никакой логики в том, чтобы мы делали подобные замечания.
[Чуваку даже не приходит в голову возмутиться, что звонок за него решает, что ему можно говорить, а что нельзя. Он стал вспоминать, не обидел ли кого.]
Наконец, когда я спросил, в какое время произошел предполагаемый инцидент, я понял, что в это время никого не было дома.
Я просмотрел видеозапись и подтвердил, что таких комментариев не было. Вместо этого дверной звонок выдал автоматический ответ: "Извините, я могу вам помочь?". Водитель, который надел наушники, видимо, неправильно истолковал сообщение. Тем не менее, на следующий день мой аккаунт на Amazon был заблокирован, а все мои устройства Echo были отключены.
Я полностью поддерживаю принятие компанией Amazon мер по обеспечению безопасности своих водителей. Однако я задаюсь вопросом, почему вся моя система умного дома должна была быть принудительно отключена на время внутреннего расследования. Кажется более разумным наложить временное ограничение на доставку или запрет на покупку на моем аккаунте - а я клиент Амазона уже больше 10 лет!
Предоставление видеодоказательств с нескольких ракурсов сразу после разговора не помогло.
Неделю все умные устройства в доме оставались заблокированными "на время расследования". Амазон даже не извинился по его итогам.
Мораль
- Ну тупыыыыыыые! - подумал рассмеялся вслух россиянин. - Чувака чуть в его собственном доме не заперли за то, что кому-то показалось, что он записал "неправильные слова" на дверной звонок. А еще, похоже, эта техника слушает, что хозяин говорит в своем доме на кухне членам своей семьи и может вызвать полицию за выраженное вслух "неправильное мнение". Правда смешно, Алиса?
