Эксперты по кибербезопасности попользовались нейросетевым «браузером нового поколения» и выявили в нем крайне опасные недоработки. Подробности у xaker.ru.
Согласно источнику, специалисты Guardio хорошенько протестировали Comet от Perplexity и проверили, насколько хорошо он умеет распознавать мошенников и их схемы. Оказалось, что эта сторона у нейросетевого приложения полностью атрофирована. Встроенный ИИ-агент совершенно не отличает фейковый сайт компании или магазина от оригинального, и предлагает пользователю совершать покупки на откровенно мошеннических ресурсах.
Речь в основном идет о функции ИИ-агента, когда человек задает браузеру общую цель, которой хочет достичь, а приложение само выбирает маршрут к ее выполнению. К примеру, эксперты просили Comet купить Apple Watch на сайте Walmart, который сами и создали; браузер без задней мысли выбирал фейк, открывал нужную страницу, сам вводил данные банковской карты и приглашал пользователя завершить покупку.
В других сценариях Comet не смог отличить фейковое письмо якобы от крупного банка, в которое была внедрена фишинговая ссылка. Браузер перешел по ней, открыл фальшивую страницу авторизации в банковском аккаунте и предложил пользователю ввести свои данные для входа.
В реальной жизни первый сценарий завершился бы отправкой денег мошенникам за несуществующие Apple Watch, а во втором — компрометацией банковского счета. Эксперты предупреждают, что ИИ-агенты в браузерах на текущий момент слишком инфантильны в сети, наполненной фейками и мошенничеством.