Постепенно публикую прошедшие вебинары про защиту ИИ

Постепенно публикую прошедшие вебинары про защиту ИИ

На вебинаре была живая демонстрация обхода LLM, спасибо коллегам из компании Infera Security

[00:00] Введение: актуальность проблемы безопасности ИИ и риски теневого использования нейросетей сотрудниками (Shadow IT).

[04:19] Ключевые векторы атак (по классификации OWASP и MITRE): как работают промпт-инъекции.

[08:49] Уязвимости RAG-систем: угроза утечки конфиденциальной корпоративной информации.

[09:59] Атаки на цепочки поставок: вредоносные и поддельные модели на площадках вроде Hugging Face.

[11:17] Отравление данных на этапе обучения моделей и риски неправильной обработки сгенерированного кода.

[13:13] Чрезмерная агентность: почему опасно выдавать ИИ избыточные права доступа к внутренним сервисам и API.

[14:06] Раскрытие внутренних инструкций: как злоумышленники узнают и обходят ограничения (guardrails) модели.

[18:19] Практическая демонстрация №1: обход ограничений чат-бота интернет-магазина для извлечения персональных данных.

[22:41] Методы защиты: маскирование данных и блокировка вредоносного вывода.

[25:31] Угрозы при работе с агентами-помощниками в написании кода.

[27:01] Практическая демонстрация №2: защита секретов и ключей разработчиков при использовании ИИ-ассистентов (на примере среды Cursor).

[29:04] Сессия вопросов и ответов (Q&A): нюансы алгоритмических запретов, конвертация промптов в Base64 и работа внешних AI Firewall.

[37:54] Анатомия кибератаки: стандартная цепочка действий хакеров при взломе инфраструктуры с LLM.

[41:50] Четыре уровня комплексной защиты ИИ: изоляция сред, управление доступом и шифрование.

[45:07] Финансовые угрозы: несанкционированное потребление ресурсов и токенов.

[47:40] Безопасность на уровне платформы: контроль плагинов и концепция Zero Trust для агентов.

[49:37] Безопасность самих моделей: необходимость сканирования скачанных алгоритмов и ML SecOps.

[52:10] Контроль обучающих данных: предотвращение попадания административных паролей и ключей в векторные базы.

[54:05] Практический чек-лист по безопасности ИИ: с чего начать руководителям и безопасникам.

[55:46] Регуляторика: новые требования Приказа ФСТЭК №117 по отношению к искусственному интеллекту.

[57:22] Пошаговый план: 5 конкретных шагов для внедрения защиты ИИ в компании.

[59:16] Анонс будущего вебинара по ML Red Teaming и заключительное слово.

Версия этого видео на RuTube

Денис Батранков в LinkedIn, YouTube, RuTube и MAX

#ИИ #Видео #Вебинар