13 подписчиков
🐝 Исследуем механику атак хакеров с помощью ИИ
👨🏫 Исследователи представили инновационное решение для изучения кибератак — LLM Honeypot, который использует большие языковые модели для создания интерактивных систем-ловушек. Такие ловушки не только имитируют поведение реальных систем, но и активно взаимодействуют с атакующими, собирая ценные данные для анализа их тактик и методов.
Особенности LLM Honeypot:
🖥 Интерактивность и реализм: Благодаря тонкой настройке на основе данных команд и ответов, сгенерированных злоумышленниками, LLM Honeypot способен точно имитировать поведение Linux-сервера.
💾 Сбор и обработка данных: Для обучения модели были использованы данные из Cowrie honeypot, включая журналы атак и команды злоумышленников. Это позволило создать модель, которая не только реагирует на команды, но и дает информативные ответы, помогая лучше понимать поведение атакующих.
📏 Тонкая настройка модели: Модель была обучена с использованием методов Low-Rank Adaptation (LoRA) и Quantized Low-Rank Adapters (QLoRA), что позволило оптимизировать её производительность без потери качества.
💻 Интеграция с SSH-сервером: LLM интегрирована в специально разработанный SSH-сервер, который взаимодействует с атакующими через протокол SSH, эмулируя поведение настоящего сервера.
🔧 Архитектура системы: LLM Honeypot включает в себя интерфейс для атакующих, SSH-сервер и саму языковую модель. Атакующие могут подключаться через SSH и выполнять команды, на которые модель отвечает, имитируя поведение реального сервера. Все взаимодействия логируются для дальнейшего анализа.
📊 Результаты тестирования: Модель прошла обучение и была проверена "в бою" с использованием различных метрик, таких как косинусное сходство и расстояние Левенштейна, показав хорошие результаты по точности и соответствию с ожидаемыми выходными данными настоящих серверов.
🛡️ Перспективы и планы: В будущем исследователи планируют расширить наборы данных для обучения, внедрить дополнительные методы анализа поведения и развернуть систему на общедоступном IP для сбора данных о реальных атаках. Это позволит еще лучше адаптировать модель к новым угрозам и улучшить эффективность защиты.
Проект демонстрирует потенциал использования больших языковых моделей для улучшения кибербезопасности, создавая новые инструменты для борьбы с злоумышленниками и защиты критически важных систем.
#LLM #honeypot #MachineLearning #science #cybersecurity
2 минуты
13 сентября 2024