Руководители Anthropic, OpenAI и других разработчиков искусственного интеллекта готовят сценарии действий на случай крупной аварии или атаки с применением ИИ. По данным Axios, они ожидают, что серьёзный инцидент может произойти в ближайшие 6–12 месяцев.
Ученые нашли способ запустить самоуничтожение в стареющих клетках
Наиболее опасным сценарием считают кибератаку, способную нарушить работу финансовых сервисов, интернета, а в худшем случае — энергоснабжения и систем водоснабжения. Такой кризис, по оценке собеседников издания, усилит давление на компании, их руководителей и президента США Дональда Трампа, который пока не спешит ужесточать регулирование отрасли.
Нейробиологи объяснили, чем грозит прием рыбьего жира после сотрясения
В OpenAI сообщили, что проводят учения и рассматривают различные варианты развития событий, не считая катастрофу неизбежной. Anthropic от комментариев отказалась. В качестве примера уже возможного ущерба Axios приводит атаки на финансовые организации Южной Кореи. По данным CrowdStrike, связанный с Китаем хакер применял ИИ-инструменты, включая модели DeepSeek, для кражи данных десятков тысяч клиентов, а Claude Code — для поиска площадок сбыта информации.
Подготовка компаний включает обсуждение будущих законов и информирование конгрессменов. Среди возможных мер называют запрет суперинтеллекта, паузу в разработке передовых систем и обязательный механизм отключения мощных моделей. При этом эксперты сомневаются, что получится остановить все ИИ-системы, а специалисты по кибербезопасности считают необходимым использовать искусственный интеллект для защиты от подобных угроз.
Читайте также: