Американская компания OpenAI пресекла свыше 20 вредоносных киберпреступных операций, в рамках которых чат-бот ChatGPT применялся злоумышленниками для отладки и разработки вредоносного программного обеспечения, распространения дезинформации, уклонения от обнаружения и организации фишинговых кибератак. Компания выпустила собственный отчёт, раскрывающий, как именно инструменты GenAI применяются для улучшения хакерских атак.
Эксперты по информационной безопасности заявили, что первые признаки подобной киберпреступной активности были зарегистрированы профильной компанией по кибербезопасности Proofpoint в апреле 2024 года. Тогда хакерская группа TA547 развёртывала загрузчик powershell, написанный искусственным интеллектом, в целях конечной полезной нагрузки вредоносного ПО Rhadamanthys.
В сентябре 2024 года эксперты из HP Wolf заявили, что хакеры, нацеленные на французские организации, применяли инструменты искусственного интеллекта для создания скриптов, применяемых в ходе многоступенчатой цепочки заражения пользовательских устройств.
В отчёте компании OpenAI подтверждается злоупотребление хакерами чат-ботом ChatGPT. Отдельно рассказывается о случаях, когда хакеры из Ирана и Китая применяли технологию для увеличения эффективности проведения своих кибератак и создания вредоносного программного обеспечения различного вида. В частности, в отчёте OpenAI подробно рассказывается о китайскоязычной хакерской группе SweetSpecter, которая специализируется на кибершпионаже и нацелена на азиатские государственные структуры.
В рамках проведения своих атак группировка SweetSpecter рассылает фишинговые электронные письма с вредоносными вложениями ZIP, которые замаскированы под запросы на техническую поддержку на личные адреса электронной почты сотрудников. В том случае, если пользователь открывает такое письмо и запускает вложенный ZIP-файл, то начинается цепочка заражения, что приводит к тому, что в систему жертвы попадает вредоносное программное обеспечение SugarGh0st RAT.
Расследование компании OpenAI наглядно продемонстрировало, что группа SweetSpecter применяла целый кластер аккаунтов в ChatGPT для скриптинга и анализа уязвимостей с применением инструмента большой языковой модели.
Оригинал публикации на сайте CISOCLUB: "OpenAI: хакеры используют ChatGPT для разработки вредоносного ПО".
Смотреть публикации по категориям: Новости | Мероприятия | Статьи | Обзоры | Отчеты | Интервью | Видео | Обучение | Вакансии | Утечки | Уязвимости | Сравнения | Дайджесты | Прочее.
Подписывайтесь на нас: VK | Rutube | Telegram | Дзен | YouTube | X.