15 подписчиков
👨🔬 Обучение моделей для кибербезопасности: Опыт SealingTech
🚀 В современном мире большие языковые модели (LLM) совершают революцию в обработке естественного языка, и кибербезопасность не является исключением. В SealingTech активно разрабатывают методы применения LLM для улучшения киберзащиты, используя открытые модели, такие как Meta’s Llama и Mistral.
🛡️ Один из наиболее значимых подходов - это Retrieval-Augmented Generation (RAG), который позволяет моделям использовать внутренние документы для улучшения ответов. Однако для задач, требующих взаимодействия с базами данных или системами, используются агенты. Например, для запроса открытых портов модель может автоматически сформировать команду для сканирования системы.
🔧 Даже самые современные открытые модели часто не имеют достаточных знаний для выполнения специфичных задач. Для решения этой проблемы SealingTech использует метод Low-Rank Adaptation (LoRA), который позволяет дообучать модели с меньшими затратами ресурсов, добавляя небольшое количество новых параметров.
🤖 SealingTech создает специализированные датасеты для улучшения моделей, которые могут автоматически генерировать код и выполнять команды. В будущем эти агенты помогут упростить рабочие процессы и ускорить выполнение сложных задач.
🔗 Подробности можно узнать тут
#Кибербезопасность #МашинноеОбучение #LLM #SealingTech #Технологии
1 минута
20 июля 2024