Постепенно публикую прошедшие вебинары про защиту ИИ
На вебинаре была живая демонстрация обхода LLM, спасибо коллегам из компании Infera Security [00:00] Введение: актуальность проблемы безопасности ИИ и риски теневого использования нейросетей сотрудниками (Shadow IT). [04:19] Ключевые векторы атак (по классификации OWASP и MITRE): как работают промпт-инъекции. [08:49] Уязвимости RAG-систем: угроза утечки конфиденциальной корпоративной информации. [09:59] Атаки на цепочки поставок: вредоносные и поддельные модели на площадках вроде Hugging Face. [11:17] Отравление данных на этапе обучения моделей и риски неправильной обработки сгенерированного кода...