14 подписчиков
🛡OpenAI и безопасность GPT-4o
🚀 OpenAI представила системную карту для GPT-4o и новый подход к оценке безопасности. Компания разработала оценочную карту Preparedness Framework, чтобы обеспечить всестороннюю оценку безопасности моделей. В фокусе оказались не только общие аспекты работы ИИ, но и конкретные риски, связанные с запросами пользователей.
🎤 Особое внимание было уделено аудиовозможностям GPT-4o. Среди основных рисков: идентификация говорящего, несанкционированная генерация голоса, создание контента, защищённого авторским правом. На основе анализа были внедрены меры безопасности на уровне системы и модели.
🔍 Важной частью работы по обеспечению безопасности стало сотрудничество с внешними экспертами. Более 100 экспертов «redteam» проверяли модель на наличие уязвимостей и проводили стресс-тесты. Такой аудит позволяет выявлять и предотвращать потенциальные угрозы до того, как они станут проблемой.
🔄 Команда OpenAI пообещала регулярно обновлять меры безопасности с учётом изменений в технологическом ландшафте и новых угроз, чтобы поддерживать высокий уровень защиты.
#OpenAI #GPT4o #Кибербезопасность #ИИ #SecureTechTalks #МоделиИИ #Технологии
1 минута
10 августа 2024