В киберполиции зафиксировали новую схему, где нейросети рекомендуют пользователям фишинговые клоны известных магазинов.
Популярный сервис искусственного интеллекта ChatGPT начал использоваться злоумышленниками для продвижения мошеннических сайтов-двойников. Как сообщили в Управлении по организации борьбы с противоправным использованием информационно-коммуникационных технологий (УБК) МВД России, алгоритмы чат-бота в ряде случаев включали в свои рекомендации ссылки на ресурсы, полностью копирующие дизайн и ассортимент торговых марок, которые прекратили свою деятельность на российском рынке.
По данным ведомства, аналитики выявили тревожную тенденцию: при поиске товаров (в частности, мебели и предметов интерьера) нейросеть выдавала поддельные сайты с фирменной символикой ушедших брендов. Главной приманкой для граждан становились агрессивные предложения о скидках до 80%, которые якобы действуют в связи с «распродажей остатков склада».
«Мы столкнулись с ситуацией, когда доверие к технологиям сыграло против пользователей. Люди привыкают полагаться на умные алгоритмы, а преступники научились “обманывать” сам искусственный интеллект», — пояснили в УБК.
Специалисты ведомства предполагают, что киберпреступники применяли технологию «отравления данных» (data poisoning). В открытых источниках массово распространялась ложная информация: фейковые положительные отзывы, сгенерированные нейросетями посты на форумах и поддельные технические метаданные. Это позволило исказить логику сортировки информации у ChatGPT, из-за чего бот начинал считать мошеннический ресурс авторитетным источником.
В настоящий момент, по информации полиции, опасные сайты уже заблокированы и исключены из поисковых индексов. Однако в МВД призывают граждан критически относиться к любым рекомендациям, полученным от искусственного интеллекта.
Рекомендации киберполиции:
Перекрестная проверка. Не стоит ограничиваться одним источником данных. Сравнивайте информацию, полученную от ChatGPT, с выдачей других поисковых систем. Поиск первоисточника. Всегда старайтесь найти официальный сайт компании через прямую ссылку или проверенные регистрационные данные, а не по ссылке из чат-бота. Внимание к деталям. Обращайте внимание на адресную строку браузера — мошеннические двойники часто имеют незначительные опечатки в доменном имени.
«Помните: искусственный интеллект — это инструмент, который может ошибаться или быть использован во вред. Он не обладает критическим мышлением и не проверяет юридическую чистоту ссылок, которые предлагает», — резюмировали в управлении, добавив, что алгоритмы могут выдавать устаревшую информацию, срок актуальности которой уже истек.
Подпишитесь на Telegram "МК": еще больше эксклюзивов и видео!
Автор: Алексей Гордеев