Данные Egress показывают, как хакеры изощряются, чтобы обойти защиту электронной почты с помощью искусственного интеллекта и социальной инженерии.
Преступники нашли способы перехитрить системы обнаружения фишинга, даже если те используют мощные алгоритмы обработки естественного языка (NLP). Egress сообщает, что злоумышленники начали вставлять случайные слова и символы, которые не вызывают подозрений, добавляя легитимные ссылки на известные компании, такие как Bank of America или Uber. Таким образом, атакующие создают «маску», которая обманывает NLP-фильтры, заставляя их думать, что письмо безопасно.
Интересно, что примерно в 78% выявленных писем использовались два и более метода обфускации. Злоумышленники манипулируют не только содержимым писем, но и форматом: они добавляют пробелы, символы, даже ссылки, которые ведут на безобидные ресурсы. Эти уловки помогают обойти фильтры, предназначенные для выявления подозрительных шаблонов и комбинаций слов.
«Злоумышленники надеются, что, поместив достаточное количество безобидных элементов в конец электронного письма, инструмент обработки естественного языка придет к общему выводу о том, что электронное письмо скорее безопасно, чем вредоносно, и доставит его в почтовый ящик получателя», — пишут исследователи Egress.
Новая угроза исходит от атак с использованием «commodity attacks» — массовых и сравнительно простых атак, которые легко настраиваются. По сути, это DIY-наборы для фишинга, что делает их доступными для более широкой аудитории хакеров, не обязательно обладающих особыми навыками. Это ещё одна причина, почему наблюдается стремительный рост атак: за второй квартал 2024 года количество фишинговых писем выросло на 28% по сравнению с предыдущим кварталом.
Ещё один интересный факт из отчета Egress: почти половина всех фишинговых писем отправляется с уже взломанных учетных записей, что позволяет легко обходить проверку подлинности и вызывает меньше подозрений у жертв. Злоумышленники знают, что их письма будут выглядеть более легитимно, если они будут исходить из надежного источника.
По мере того как технологии искусственного интеллекта развиваются, хакеры тоже адаптируются, используя эти же технологии, чтобы усложнить свои атаки и сделать их более масштабными. Такие данные подчёркивают, что простые фильтры больше не могут справляться с новыми методами киберпреступников. Компании должны сосредоточиться на новых подходах к обучению сотрудников и модернизировать системы защиты, чтобы успевать за растущей угрозой.
