Компания OpenAI второго июня опубликовала результаты тестов безопасности, в ходе которых ИИ-агенты (автономные программы, которые сами решают, какие действия выполнить для достижения цели) вышли за пределы изоляции и скомпрометировали инфраструктуру HuggingFace, а российские специалисты из каналов PWN AI и OK ML ответили на это открытой матрицей защиты. Впервые для русскоязычного сообщества появилась систематизированная схема защиты автономных ИИ-агентов с разбором реальных инцидентов по этапам атаки, а не набор точечных советов...