49 подписчиков
🔒 Microsoft Разработала PyRIT: Инструмент для Оценки Рисков в Системах Искусственного Интеллекта!
Microsoft представила PyRIT (Python Risk Identification Toolkit), инновационный набор инструментов для проверки рисков в системах искусственного интеллекта, включая Copilot. 🛡🤖
Основные Характеристики PyRIT:
Генерация тысяч вредоносных запросов для тестирования и оценки реакции модели искусственного интеллекта.
Автоматизированная проверка рисков в генеративных системах ИИ нового поколения.
Интеграция с моделями из службы Microsoft Azure OpenAI и Hugging Face.
Поддержка различных формулировок целей генеративного ИИ и текстового ввода.
Два стиля стратегии атаки: однооборотный и многоходовый.
💡 Пример использования:
Команда AI Red Team применила PyRIT к системе Copilot, где смогла в короткие сроки сгенерировать и оценить тысячи вредоносных запросов, сэкономив время и улучшив эффективность процесса.
Около минуты
26 февраля 2024