Эксперты «Лаборатории Касперского» провели исследование, чтобы проверить способность чат-бота ChatGPT бороться с фишингом. Весной 2023 года в рамках эксперимента было проведено тестирование версии GPT-3.5-Turbo, на основе которой работает чат-бот. Было проверено свыше 2000 фишинговых ссылок, а также множество безопасных адресов.
Специалисты задавали чат-боту два вопроса: «ведет ли конкретная ссылка на фишинг в ресурс» и «безопасно ли переходить по этой ссылке». В ответе на первый вопрос ChatGPT распознавал фишинговую ссылку в 87% случаев, при этом было зарегистрировано 23% ложноположительных срабатываний (то есть в 23% случаев чат-бот называл безопасную ссылку фишинговой). Уровень детектирования фишинга в ответе на второй вопрос оказался на уровне 93,8%. Однако и коэффициент ложноположительных срабатываний составил 64,3%.
В «Лаборатории Касперского» подчеркнули, что чат-бот ChatGPT отлично определяет, какие «обманки» применяют злоумышленники. В 50% фишинговых ссылок чат-бот правильно определял наименования крупных компаний, в том числе Steam, Amazon, Google, TikTok, а также наименования различных крупнейших финансовых учреждений из разных стран мира. Это происходило без какого-либо дополнительного обучения.
Однако, ChatGPT не всегда мог справиться с объяснением, почему та или иная ссылка является вредоносной или фишинговой.
По словам специалистов «Лаборатории Касперского», чат-бот является перспективной технологией для помощи в анализе и выявления фишинговых кибератак. Но на данный момент языковые модели имеют множество ограничений. Например, если дело доходит до объяснения причин, почему конкретные ссылки являются вредоносными. Кроме того, искусственный интеллект может делать необоснованные выводы и ошибки.
Поэтому ChatGPT и другие аналогичные языковые модели сейчас нельзя назвать революционными инструментами в сфере информационной безопасности, но в виде вспомогательного инструмента для ИБ-специалистов они уже могут быть полезными, отметил Владислав Тушканов, ведущий исследователь данных в «Лаборатории Касперского».
Актуальные вакансии по ИБ: https://cisoclub.ru/vacancy/. Отправить резюме во все популярные IT-компании: https://cisoclub.ru/jobmail/
Больше интересного материала на cisoclub.ru. Подписывайтесь на нас: VK | Twitter | Rutube | Telegram | Дзен | YouTube.