Нейросети пишут убедительные письма, подделывают биометрию и помогают месяцами оставаться незамеченными в корпоративных сетях.
Привет, дорогие друзья!
Киберпреступные группы активно используют генеративные сервисы в собственной инфраструктуре. Аналитики Microsoft фиксируют, что современные модели ускоряют подготовку фишинга, создание вредоносного кода и анализ похищенных данных.
Это позволяет злоумышленникам расширять масштаб операций и снижать издержки: пока ИИ берет на себя рутинные задачи, мошенник занимается стратегическими решениями о целях и тактике.
Компания отмечает переход к, так называемому, агентному ИИ. Эти системы самостоятельно планируют действия, оценивают результаты и корректируют тактику, что в перспективе серьезно усложнит обнаружение.
Социальная инженерия нового поколения
Социальная инженерия стала главным полем для применения генеративных технологий Модели пишут грамотные фишинговые письма, адаптируют сообщения под конкретные компании и генерируют правдоподобные биографии вымышленных кандидатов на вакансии.
Именно так, по мнению Microsoft, действуют северокорейские группировки, отслеживаемые под названиями «Jasper Sleet» и «Coral Sleet» – используют ИИ для создания поддельных профилей удаленных IT-сотрудников. ИИ подбирает имена, форматы электронной почты, составляет резюме и даже генерирует дипфейки, чтобы скрыть акцент и подменить фотографии на документах.
Персональные данные – ключ к инфраструктуре
Недавно в США суд вынес приговор троим гражданам, которые продали свои реальные данные, в результате попавшие к северокорейским хакерам.
Подставные сотрудники устраивались на удаленную работу в американские компании. Для прохождения проверок использовались поддельные резюме, видео-собеседования и отредактированные документы.
Получив рабочие ноутбуки, осужденные установили программы удаленного доступа. В результате хакеры могли подключаться к корпоративным сетям из-за границы, а системам безопасности компаний казалось, что сотрудник работает непосредственно из дома в США.
Как правило, целью злоумышленников является получение доступа к инфраструктуре и данным компании, а также кража государственных тайн.
Зеркальный ответ
Аналитики подчёркивают, что распространение искусственного интеллекта одновременно усиливает защиту. В Microsoft уже выявили и заблокировали тысячи аккаунтов, связанных с фальшивыми IT-сотрудниками. По мнению Microsoft, хоть ИИ и снижает порог вхождения для злоумышленников, но при грамотном применении способен значительно повысить эффективность средств защиты.
В то же время, компании адаптируют процесс найма, возвращаясь к очным этапам собеседований, пишет The Wall Street Journal. В случае, когда это невозможно, сотрудники отделов найма прибегают к базовым правилам выявления дипфейков при онлайн-встречах:
- Добавляют детальные поведенческие вопросы. К ним относятся те, где нужно подробно объяснить, что именно делал кандидат в прошлой роли, какие были результаты и как реагировала команда.
- Поднимают простые бытовые темы, например, вопрос о погоде — простой приём, который помогает понять, действительно ли человек находится там, где утверждает.
- Наконец, просят медленно провести рукой перед лицом. Если используется дипфейк-технология, «маска» сработает некорректно и выдаст обман.
Друзья, а какой вопрос задали бы вы, чтобы проверить «реальность» собеседника?
***
@mudr