"Он ловил каждое слово, если его произносили не слишком тихим шепотом… Конечно, никто не знал, наблюдают за ним в данную минуту или нет" — так Джордж Оруэлл в романе "1984" описал слежку Большого Брата за людьми в их собственных квартирах с помощью неотключаемых телескринов.
Голосовые помощники могут "жить" в смартфонах, планшетах и компьютерах (как Apple Siri) или в стационарных устройствах (таких как аудиоколонки Amazon Echo, Google Home или Яндекс Алиса). Круг их возможностей постоянно увеличивается: можно управлять воспроизведением музыки, узнавать погоду, регулировать температуру в доме, заказывать товары в интернет-магазинах и др.
Функция голосового помощника в современных устройствах, несмотря на свои преимущества, может нести опасность для пользователей.
Это связано с тем, что голосовой помощник в ожидании команд постоянно прослушивает окружающее пространство и слышит все, что говорится рядом, рассказал основатель сервиса разведки утечек DLBI Ашот Оганесян. В результате оно слышит все, что говорится поблизости. Собранная информация может храниться на серверах компании-производителя неограниченное время.
"Нередко записи, содержащие нераспознанные команды голосовым помощником звуки, прослушивают "асессоры", занимающиеся разметкой данных для нейросетей. Асессоры часто не являются сотрудниками компаний и не обязаны соблюдать конфиденциальность. [Как итог – некоторые] записи могут оказаться в интернете", – пояснил Оганесян.
Кроме того, по словам эксперта, неправильно распознанные голосовые команды могут привести к неправильным действиям помощника. При этом если он отвечает за управление сигнализацией или умным домом, повышается риск нанесения реального ущерба.
Эксперт отметил, что автономные устройства, такие как "умные" колонки, собирают в основном аудиоданные, а встроенные в компьютер или смартфон голосовые помощники имеют доступ ко всей информации операционной системы.
Несколько лет назад китайские специалисты обнаружили еще одну уязвимость голосовых помощников. Активировать программу можно при помощи звуковых частот, которые человек даже не слышит. Ученые назвали эту технологию "атака дельфина". С ее помощью можно включать камеру на телефоне или отправлять сообщения.
Другие подозрительные случаи связанные с голосовыми помощниками.
1. В новостном выпуске телеканала CW6 (США, Сан-Диего) в январе 2017 г. был показан сюжет об угрозах со стороны устройства Amazon Echo с виртуальной помощницей Alexa на борту.
В частности, упоминалось неумение системы различать людей по голосу, из-за чего Alexa выполняет команды всех, кто находится поблизости. Как результат — незапланированные покупки в интернет-магазине через Echo порой совершают дети, ведь для них это не сильно отличается от того, чтобы попросить у мамы конфетку.
Комментируя сюжет, ведущий новостей отметил: "Мне понравилась девочка, сказавшая: "Alexa заказала мне кукольный домик".
Как только эта фраза попала в эфир, зрители в Сан-Диего стали жаловаться… на самопроизвольные заказы кукольных домиков, сделанные их домашним помощником. Alexa восприняла фразу из телевизора как команду и поспешила ее исполнить.
Пострадавшим от "восстания машин" клиентам Amazon пообещала бесплатно отменить заказы.
2. В 2017 г. в Техасе (США) голосовой помощник от Amazon отреагировал на вопрос 6-летней девочки — можно ли ей получить кукольный домик — и сделал заказ в интернет-магазине. По просьбе ребенка, к игрушке он еще приобрел 4 фунта печенья (1 фунт – 0,45 кг).
3. Также в 2017 г. уязвимостью голосовых помощников воспользовались рекламщики Burger King. Они запустили рекламу, которая начиналась словами: "OK, Google", а затем просила узнать про их новый товар. В ответ устройства Android с голосовой поддержкой разблокировались и выходили в интернет с соответствующим запросом.
4. Порой новые технологии по-настоящему пугают своих владельцев. В 2018 г. пользователи соц. сетей стали публиковать жалобы на помощника от Amazon, встроенного в колонку Echo. Без видимой причины устройство начинало смеяться.
5. В 2019 г. в распоряжении бельгийского телеканала VRT оказались образцы настоящих голосовых запросов. Их передал один из сотрудников. В описании умной колонки Google Home не говорится о том, что в процесс расшифровки голосовых запросов могут вмешиваться посторонние люди. Сама компания после того, как несколько аудиозаписей прозвучали в телерепортаже, заявила, что "расшифровщики" не могут узнать, что за человек произнес ту или иную фразу. Кроме того, на ручную обработку направляются лишь 0,2% таких записей.
Несмотря на это, в самих запросах может быть случайно озвучена конфиденциальная информация. Также "расшифровщик" рассказал телеканалу, что на одной из присланных ему из Google записей он слышал голос женщины, которая находилась в опасной ситуации, связанной с физическим насилием.
"Опасность таких утечек становится актуальной в связи с тем, что сервисы стали внедрять различные виды биометрической аутентификации, в том числе и по голосу. Если у злоумышленника будет достаточно голосовых записей, то он сможет подделать ваш голос и получить доступ к вашим аккаунтам, например, банковским, позвонив в колл-центр кредитной организации", - считает Георгий Старостин, эксперт лаборатории практического анализа защищенности компании "Инфосистемы Джет".
"Потребители в любом случае не должны забывать о базовых мерах предосторожности. Например, изучить конфигурацию и отключить ненужные функции перед использованием умных колонок, а также запретить выполнение команд без дополнительной авторизации и отключать микрофон, когда колонка не используется", - отмечают в антивирусной компании ESET.
Советы по нейтрализации голосовых помощников.
1. Если предстоит важный приватный разговор или если вы не хотите, чтобы все что вы говорите попало в интернет, разработчику, посторонним людям, отключайте микрофон на голосовом помощнике с помощью соответствующей кнопки.
2. Пользователям Amazon Echo, имя которых созвучно с именем Alexa, стоит поменять слово, на которое отзывается помощник. В противном случае любой разговор в присутствии электронного ассистента превратится в сущее мучение.
3. Покупки через Amazon Echo можно или вовсе запретить, или защитить паролем в настройках учетной записи.
