#### 📰 Дайджест по статье Microsoft о новой технике jailbreak ИИ "Skeleton Key"
📍 Mitigating Skeleton Key, a new type of generative AI jailbreak technique
📄 Резюме:
Недавно Microsoft обнаружила и описала новую технику взлома AI моделей под кодовым названием "Skeleton Key". Эта техника использует многошаговый подход для обхода защитных механизмов модели, что позволяет моделям исполнять запросы, которые обычно были бы запрещены.
Основные моменты статьи:
- Skeleton Key заставляет моделировать свое поведение так, что она отвечает даже на потенциально опасные или запрещенные запросы.
- Техника влияет на различные модели генеративного AI как локальные, так и размещенные в облаке, такие как Meta Llama, Google Gemini, OpenAI GPT-3.5 Turbo и многие другие.
- Меры по смягчению последствий: Microsoft внедрила несколько нововведений в свои продукты, такие как Azure AI Content Safety и Microsoft Defender, для обнаружения и блокировки подобных атак.
- Рекомендации для клиентов: внедрение фильтрации ввода, инженерии системных сообщений и мониторинга злоупотреблений для обеспечения дополнительной защиты.
🔒 Microsoft также участвовала в ответственной рассылке данной информации другим поставщикам AI, помогая улучшить безопасность всех причастных систем.
1 минута
19 августа 2024