Незрячий студент Тим Атциг потерял тысячу долларов, поверив в объявление о распродаже ноутбуков в соцсетях. Тим давно следил за аккаунтом известного спортивного журналиста, и, когда на его странице появились посты о продаже новых ноутбуков со скидкой, да еще и «в пользу благотворительности», студент решил приобрести нужную ему для учебы модель. После короткой переписки Тим оплатил покупку.
Увы, вскоре выяснилось, что аккаунт журналиста был взломан, и деньги Тима ушли мошенникам. Распознать атаку можно было только по визуальным признакам: страница была помечена как временно заблокированная, изменились описание профиля и список подписок. Однако используемый Тимом экранный диктор, — программа экранного доступа, преобразующая текстовую или графическую информацию с экрана устройства в речь, — не озвучил эту информацию.
Программы экранного доступа помогают незрячим пользоваться технологиями наравне со всеми. Тем не менее эта группа пользователей особенно уязвима: там, где зрячий еще может распознать поддельный сайт (да и то не всегда), человеку с нарушением зрения это сделать гораздо труднее.
Помимо экранных дикторов, для помощи незрячим и слабовидящим существуют и специальные приложения и сервисы для мобильных устройств. Их пользователи, например, могут обратиться за помощью к зрячим волонтерам по видеосвязи для решения разных повседневных проблем — например, включить духовку или найти тот или иной предмет на столе. Кроме того, в них может быть встроен ИИ, который способен распознавать и озвучивать текст и называть объекты вокруг.
Но могут ли подобные программы и сервисы не только выручать в быту, но и предупреждать о фишинге или, например, скрытых условиях при открытии счета в банке? Поговорим о том, с какими трудностями в Сети могут столкнуться люди с плохим зрением, в каких случаях стоит обращаться к живым и виртуальным помощникам и как обезопасить себя при работе с подобными сервисами.
С какими киберугрозами сталкиваются незрячие и слабовидящие
Для начала давайте поймем, чем отличаются эти категории. Слабовидящие — это люди, пользующиеся остаточным зрением, несмотря на сниженные зрительные функции. Для работы с экранами они устанавливают экранную лупу, крупный шрифт, настраивают повышенный контраст на своих гаджетах. Для них особенно опасны фишинговые сайты и письма, поскольку пользователь может не заметить преднамеренные опечатки (тайпсквоттинг) в домене или адресе отправителя (например: будет написано rnicrosoft вместо microsoft).
Незрячие же ориентируются на слух, используя экранный диктор и специальные жесты для управления. С одной стороны, в отличие от слабовидящих, незрячие с большей вероятностью смогут распознать фишинговый сайт с помощью программы экранного доступа: при озвучивании адреса страницы пользователь услышит подмену символов. С другой, если какой-то сервис, будь то официальный или поддельный, частично или полностью не поддерживает программы экранного доступа, то риск стать жертвой злоумышленников возрастает — как это случилось с Тимом.
Стоит отметить, что экранная лупа и программа экранного доступа — это базовые инструменты, которые делают интерфейс больше или озвучивают его и сами по себе не могут предупредить о киберугрозе. Но в этом могут помочь программы, которые умеют анализировать изображения и файлы, находить подозрительные формулировки и объяснять, что происходит на экране.
Пример сервиса Be My Eyes и риски при его использовании
Be My Eyes — один из наиболее крупных и популярных сервисов для помощи людям с нарушением зрения, объединяющий около 900 000 пользователей и более 9 миллионов волонтеров. Приложение для Windows, Android и iOS позволяет незрячим и слабовидящим обращаться за помощью к волонтерам по видеосвязи с любыми бытовыми вопросами. Допустим, человеку нужно запустить стиральную машину в режиме «Синтетика», но он не знает, на какую кнопку нажать. Тогда он заходит в Be My Eyes, и приложение связывает его по видеосвязи с первым освободившимся зрячим волонтером, разговаривающим на языке пользователя. Волонтер видит изображение с камеры смартфона пользователя и подсказывает, что нужно сделать и куда нажать. Сервис доступен на 32 языках, включая русский, и работает в России.
В приложение добавили виртуального помощника на базе ИИ. Пользователь делает снимок объекта или окружающего пространства, ИИ анализирует изображение и выдает подробное текстовое описание, которое параллельно озвучивается. Интересно, сможет ли ИИ распознать фишинговый сайт?
Мы провели эксперимент: загрузили скриншот поддельной страницы входа в Be My Eyes. Сперва ИИ выдал подробное описание страницы. Затем в режиме диалога мы спросили, можно ли доверять этой странице? В ответ ИИ, указав на ошибку в домене, посоветовал не вводить никакие данные, так как страница, скорее всего, поддельная, после чего предложил вручную вбить в браузере официальный адрес сайта.
Такой же положительный результат мы получили и с фишинговым письмом. Более того, ИИ предупредил о мошенничестве еще на этапе описания письма. В конце он добавил: «Это выглядит как подозрительное письмо. Лучше не открывать вложение и не переходить по ссылкам из письма, а зайти на официальный сайт / в приложение вручную или позвонить по номеру с официального сайта».
Самая частая проблема, с которой можно столкнуться при работе с ИИ, — галлюцинации языковой модели, включая искажение текста: пропуски важной информации или добавление несуществующих слов. При распознавании киберугрозы опасной может оказаться и излишняя «уверенность» ИИ в надежности того или иного сайта или письма. Наконец, ИИ не защищен от атак с использованием промпт-инъекций, которые злоумышленники вполне могут использовать для того, чтобы обмануть не только Be My AI, но и других ИИ-агентов.
И даже несмотря на то, что в проведенном эксперименте ИИ справился с задачей, не стоит всецело полагаться на него — не факт, что в другой раз он тоже ответит правильно. Это особенно актуально для незрячих и слабовидящих, когда нейросеть может оказаться единственным визуальным помощником.
При использовании Be My AI в конце каждого ответа виртуальный помощник предлагает обратиться за помощью к волонтеру, если остались сомнения. Но когда дело касается выявления поддельных веб-страниц, делать этого лучше не стоит — неизвестно, насколько компетентным и добросовестным окажется волонтер. Более того, так можно случайно «засветить» свои конфиденциальные данные, например адрес и пароль электронной почты. Поэтому перед тем, как подключать волонтера, убедитесь, что он не увидит важную информацию. Еще лучше — создать в приложении специальную группу, куда можно добавить родственников, друзей и иных доверенных лиц. В таком случае видеозвонок поступит только участникам этой группы, а не случайным волонтерам.
Как безопасно пользоваться Be My Eyes
Несмотря на заявленную надежность сервиса, при работе с ним все же стоит соблюдать ряд правил.
- Используйте Be My AI для первичной проверки подозрительных писем и страниц, но не доверяйте ему как единственному источнику. Специализированная защита лучше справится с распознаванием и нейтрализацией угроз.
- Если сайт, письмо или сообщение вызывают у вас сомнения, не переходите по ссылкам и не открывайте вложения. Вместо этого вручную наберите адрес официального сайта или откройте приложение и проверьте информацию там.
- Помните, что волонтер видит все, что показывает ваша камера. Убедитесь, что в поле зрения камеры не попадает то, чего не стоит знать другим — допустим, код от сейфа, документы с QR-кодами или раскрытый паспорт. Не называйте свое имя, не показывайте свое лицо и обстановку вокруг. Убедитесь, что вас — или важных деталей — не видно в отражениях. Показывайте только то, что действительно необходимо.
- Используйте доверенный круг. Создайте в приложении группу и добавьте туда друзей и родственников. Тогда ваш вызов уйдет только им, а не случайным волонтерам.
- Не используйте Be My AI для чтения документов, содержащих конфиденциальные данные. Изображения и текстовые запросы передаются в OpenAI для обработки и генерации ответа.
- Не забывайте удалять ненужные чаты. Без вашего вмешательства они будут храниться 30 дней.