1241 подписчик
Институт безопасности искусственного интеллекта США получит ранний доступ к новым моделям от OpenAI и Anthropic
🔸 Институт безопасности искусственного интеллекта (NIST) создан в 2023 году для развития науки о безопасности ИИ и снижения рисков.
🔸 NIST фокусируется на тестировании, оценке и разработке руководящих принципов для внедрения безопасного ИИ в США и на международном уровне.
🔸 Институт заключил соглашения с стартапами Anthropic и OpenAI для совместных исследований, тестирования и оценки безопасности ИИ.
🔸 NIST получает ранний доступ к новым моделям от OpenAI и Anthropic для оценки возможностей и рисков моделей.
🔸 Институт будет предоставлять обратную связь владельцам моделей о мерах по повышению безопасности и сотрудничать с Великобританией.
🔸 Отсутствие участия Google в подобных соглашениях подчеркивает сохраняющиеся проблемы в достижении стандартов безопасности ИИ.
🔸 OpenAI сформировал Комитет по охране и безопасности для рекомендаций по важным решениям в области безопасности проектов и операций.
Около минуты
29 августа 2024