Американские компании разрабатывают системы, которые должны остановить искусственный интеллект при опасном или неконтролируемом поведении. Об этом сообщает Axios.
Ученые нашли способ запустить самоуничтожение в стареющих клетках
Отключение отдельных серверов не всегда решает проблему: мощные ИИ-системы могут работать одновременно на множестве компьютеров и цифровых платформ. Поэтому разработчики создают несколько уровней защиты — от выявления подозрительных действий до блокировки доступа к необходимым ресурсам.
В OpenAI сообщили о разработке автономной процедуры экстренного отключения. Специальный ИИ-наблюдатель должен сигнализировать сотрудникам о потенциально опасном поведении агентов, а при подтверждении угрозы остановить систему в течение 30 минут.
Читайте также: