В голосовых помощниках от ведущих мировых брендов была найдена новая уязвимость — ученым удалось отправить ассистентам различные команды таким образом, чтобы о них не узнал хозяин устройства. Исследователи полагают, что киберзлоумышленники могут воспользоваться этой уязвимостью в самое ближайшее время.
Голосовые помощники плотно вошли в повседневную жизнь, и многие люди привыкли разговаривать со своими гаджетами. Они постоянно общаются с ассистентами и просят их то прочитать текст вслух, то поставить любимую мелодию или будильник на завтрашнее утро. К сожалению, ученые выяснили, что с вашим голосовым помощником может общаться кто-то другой, причем без вашего ведома.
За последние два года исследователи из Китая и США достигли определенных успехов в отправке скрытых сообщений для голосовых ассистентов Siri, Alexa и Google Assistant. Человеческое ухо не имеет возможности зафиксировать подобные команды, а виртуальные помощники их легко воспринимают и начинают выполнять.
Исследователи смогли тайно активировать систему искусственного интеллекта (ИИ) в смартфонах и «умных» домах, заставив ее начать набор телефонного номера или открыть конкретный веб-сайт.
В руках мошенника такая уязвимость может быть использована для того, чтобы открыть входную дверь, вывести денежные средства со счета или купить товары онлайн с помощью музыки, играющей по радио.
Группа студентов из Калифорнийского университета в Беркли и Джорджтаунского университета еще в 2016 году показала, как нужно прятать команды в белом шуме во время того, как музыкальные колонки воспроизводят звук из видеоролика на YouTube. С помощью этих сообщений исследователи смогли заставить смарт-устройства включить режим полета.
В мае 2018 года ученые из Беркли пошли дальше и опубликовали доклад, в котором рассказали о новых результатах эксперимента. Теперь им удалось вставить команды непосредственно в музыкальную запись или аудио-разговор. В то время как человек, к примеру, слушает выступление оркестра или подкаст, «умная» колонка Echo в эти же минуты занимается онлайн-шопингом и добавляет товары в корзину.
Один из авторов исследования Николас Карлини отметил, что разработки эксперимента не покидали лабораторию, но это лишь вопрос времени, прежде чем киберпреступники начнут использовать такую уязвимость в своих целях.
Я подозреваю, что мошенники уже нанимают людей для разработки того же самого, чем занимаюсь я», — признался Карлини.
К сожалению, такие новости лишний раз доказывают, что искусственным интеллектом, каким бы он ни был совершенным, можно успешно манипулировать. Компьютеры могут ошибиться в идентификации фотографии и назвать самолет кошкой из-за подмены пары пикселей, а автомобиль-беспилотник увеличит скорость из-за маленькой наклейки, прикрепленной на дорожный знак.
Для своего эксперимента с помощью аудиосообщений исследователи воспользовались различиями между человеком и машиной в сфере распознавания звуков. Система распознавания голоса, как правило, «переводит» каждый звук в букву, а после складывает получившиеся слова в предложения.
Небольшие изменения, внесенные в аудиофайл, нейтрализуют «правильный» звук и заменяют его другим, который воспринимается ИИ совершенно по-другому. Человек при этом не слышит ничего необычного.
Последствия таких трюков могут носить совершенно разный характер. Особенно это тревожно в текущей ситуации, когда виртуальных помощников становится все больше.
Согласно компании Ovum.
к 2021 году количество голосовых ассистентов, установленных на смарт-устройствах, достигнет 7,5 млрд, что превысит население Земли.
Компания Амазон которой принадлежит колонка Echo, заявила о том, что приняла меры для повышения уровня защиты своего устройства, но отказалась рассказать детали. Google пояснила, что ее помощник Assistant оснащен специальной функцией, которая «глушит» неслышимые аудио-команды. Оба IT-гиганта сообщили о том, что их ассистенты реагируют исключительно на голос владельца и не предпринимают никаких действий, пока не проверят, кто именно дает им задание.
Apple, создатель ассистента Siri, напомнила о том, что для успешной передачи команды необходимо сначала разблокировать iPhone или iPad, что сильно осложнит замысел злоумышленника.
Тем не менее, голосовые ассистенты в прошлом не раз выходили из-под контроля своего хозяина. Например, в США 6-летняя девочка попросила Alexa купить ей кукольный домик, о чем родители ребенка узнали только тогда, когда игрушку доставили домой. Кроме того, когда этот случай освещали на местном телевидении, ведущий произнес вслух похожую команду, из-за чего тысячи голосовых помощников и «умных» колонок от Amazon, чьи пользователи в этот момент смотрели выпуск, сделали тот же заказ в игрушечных магазинах.