изображение: grok
По данным исследований, в 2025 году число кибератак с применением ИИ выросло на 93%, а в начале 2026-го увеличилось еще втрое. Эксперты ГК Softline отмечают, что хакеры массово перешли к обходу этических фильтров нейросетей. Под угрозой оказались компании в финансовом секторе, ритейле и объекты КИИ. Бизнесу приходится менять подход: от бесконтрольного использования нейросетей сотрудниками к выстраиванию системы правил и управлению процессами.
Эволюция угроз
На теневых форумах главный тренд — обсуждение способов взлома публичных ИИ-моделей. Специалисты Softline фиксируют, что нейросети превратились в рутинный инструмент злоумышленников. ИИ используют для автоматизации разведки, массового создания персонализированного фишинга и генерации фрагментов вредоносного кода. То, на что раньше уходили недели, теперь делается за часы.
ИИ обвалил цены на киберпреступность
ИИ упростил работу хакерам. Задачи, требующие глубоких технических знаний, теперь решаются через промпты. Из-за этого атаки стали дешевле и быстрее. Вырос объем атак от новичков, а продвинутые группировки (APT) продолжают использовать нейросети для повышения эффективности своих кампаний.
По наблюдениям ГК Softline, главная ошибка компаний — разрешение сотрудникам работать с публичными ИИ-сервисами без ограничений. Это приводит к утечкам конфиденциальных данных, которые пользователи сами отправляют в нейросети в составе запросов.
«Хакеры перешли от единичных экспериментов к системному применению ИИ в атаках. Нейросети удешевили и ускорили подготовку взломов. Из-за этого традиционных периметровых средств защиты становится недостаточно. Бизнесу необходимо создавать изолированные контуры для безопасной работы с ИИ, где весь трафик логируется и проверяется», — комментирует Кирилл Лёвкин, проджект-менеджер ГК Softline (MD Audit).
Без контроля использования ИИ компании сталкиваются с тремя проблемами. Первая — утечки интеллектуальной собственности и персональных данных, которые сотрудники неосознанно передают в нейросети. Вторая проблема — перегрузка центров мониторинга (SOC). Хакеры используют ИИ для массового запуска атак: один злоумышленник может генерировать тысячи фишинговых писем или попыток взлома. Каждый такой инцидент требует проверки аналитиком безопасности. Объем задач растет кратно, и команды просто не успевают их обрабатывать. Третья — штрафы от регуляторов, особенно для банков и госсектора.
Чек-лист: как закрыть уязвимости в использовании ИИ
Эксперты Softline рекомендуют внедрить следующие меры для снижения рисков:
- Запретить передачу чувствительных данных. Внести в политики ИБ четкий запрет на загрузку в публичные нейросети кода, баз данных и внутренних документов.
- Настроить API-шлюзы. Ограничить скорость и количество запросов к ИИ-сервисам, чтобы блокировать массовые автоматизированные обращения.
- Ловить аномалии. Настроить SIEM/DLP на отслеживание нестандартных паттернов и попыток обхода фильтров.
- Создать изолированные контуры. Для рабочих задач развернуть локальные или приватные облачные модели, где весь трафик логируется и контролируется.
- Обучить сотрудников. Показать на примерах, как хакеры используют ИИ для генерации убедительных писем и голосовых сообщений.
ИИ прочно вошел в арсенал как ИТ-специалистов, так и киберпреступников. Специалисты Softline подчеркивают: эффективность защиты зависит от глубокого понимания новых сценариев атак, внедрения многоуровневого контроля и изоляции критических данных.
Оригинал публикации на сайте CISOCLUB: "Атаки с применением ИИ выросли втрое: эксперты Softline разобрали новые сценарии хакеров".
Смотреть публикации по категориям: Новости | Мероприятия | Статьи | Обзоры | Отчеты | Интервью | Видео | Обучение | Вакансии | Утечки | Уязвимости | Сравнения | Дайджесты | Прочее.
Подписывайтесь на нас: MAX | VK | Rutube | Telegram | Дзен | YouTube.