Найти в Дзене
122 подписчика

В ответ на пост

Что предлагают ученые?
• призывают частный бизнес и госсектор выделить 1/3 своего бюджета на НИОКР на решение проблем НИОКР и обеспечение безопасности и этического использования ИИ
• нужны национальные институты и международное управление для обеспечения соблюдения стандартов, которые предотвращают безрассудство и злоупотребление ИИ
• нужны меры управления, которые подготовят к внезапным прорывам ИИ, будучи политически осуществимыми, несмотря на разногласия и неопределенность в отношении сроков ИИ
Ключевым моментом являются политики, которые автоматически запускаются, когда ИИ достигает определенных этапов возможностей
• регуляторы могут и должны требовать, чтобы разработчики frontier AI предоставляли внешним аудиторам на месте, всеобъемлющий («white-box») и точно настраивающий доступ с самого начала разработки модели
• нужны строгие методы для привлечения и оценки возможностей ИИ и прогнозирования их перед обучением
• нужно научиться оценивать не только опасные возможности, но и риски в общеском контексте, со сложными взаимодействиями и уязвимостями
• нужны инструменты для обнаружения и защиты от угроз с помощью ИИ, таких как крупномасштабные операции влияния, биологические риски и кибератаки
Однако, по мере того, как системы искусственного интеллекта становятся более способными, они в конечном итоге смогут обойти созданную человеком защиту

Чтобы обеспечить более мощную защиту на основе ИИ, сначала нужно научиться делать системы ИИ безопасными и согласованными
1 минута