24 сентября в 15:30

OpenAI предложила правила внешнего аудита безопасности своих моделей

В отличие от предварительных оценок перед запуском продуктов, новые процедуры рассчитаны на длительную и глубокую проверку, не привязанную к конкретным релизам.iXBT.com
Аудиторы должны будут ответить на вопрос: подтверждаются ли заявления компании о безопасности реальными данными и соблюдались ли заявленные условия на всех этапах.iXBT.com
Проверяющие получат «серый» доступ к системам, чтобы в реалистичных условиях протестировать, насколько надёжно фильтры блокируют вредоносные запросы в сферах кибербезопасности и биооружия, и где именно защита даёт сбой.iXBT.com
Третье направление — аудит тестов на возможности из категорий риска Preparedness Framework (химические и биологические угрозы, киберугрозы, способность ИИ к самоулучшению) и тестов на риски дезадаптации.iXBT.com
Источники:
IT
5,67 млн интересуются
Добавить в корзинуПозвонить