Пентагон ускоряет интеграцию искусственного интеллекта в системы вооружений, что порождает опасения по поводу создания «машины судного дня», пишет издание Politico.
Как показали исследования Стэнфордского университета, современные языковые модели в ходе военных игр демонстрировали склонность к агрессивной эскалации и применению ядерного оружия. «ИИ всегда играет роль Кёртиса Лемея», — отметил руководитель проекта Жаклин Шнайдер, ссылаясь на генерала ВВС США времен холодной войны, известного своей тягой к ядерному оружию.
Жаклин Шнайдер: «Похоже, искусственный интеллект понимает эскалацию, но не деэскалацию. Мы не совсем понимаем, почему это так».
Американские военные поспешно внедряют новейшие поколения ИИ в военные системы, которые становятся автономными, то есть могут реагировать самостоятельно, без участия человека, и действовать так быстро, что люди не успевают за ними.
Хотя Пентагон заявляет, что человек всегда будет контролировать ситуацию, требования современной войны — необходимость молниеносного принятия решений, координации сложных роев дронов, обработки огромных объемов разведывательных данных — означают, что военные все больше склонны полагаться на искусственный интеллект. Эксперты опасаются, что он может стать ключевым игроком в кризисных решениях, вплоть до вопроса о начале ядерной войны.
Часть экспертов считают безумием даже рассматривать возможность предоставления ИИ права голоса в вопросе ядерных арсеналов. «Я бы сказал, что искусственный интеллект не должен приближаться к системе управления ядерным оружием», — заявил Кристиан Броуз, бывший чиновник Пентагона. По его мнению, ставки и последствия действий и ошибок слишком велики, поэтому процесс долен быть контролируемым и полностью ручным.
Тем не менее, давление на ускорение огромно. Генерал Дэн Кейн, председатель Объединенного комитета начальников штабов при администрации Трампа, призывал «двигаться быстрее». В июле 2025 года администрация Трампа выпустила «План действий в области ИИ», максимально снимающий регуляторные ограничения.
Пентагон активно внедряет искусственный интеллект в систему Joint All-Domain Command and Control (JADC2), объединяя все виды войск в единую сеть на основе ИИ. Цель — ускорить процесс принятия решений по «цепочке уничтожения»: от обнаружения цели до ее поражения.
Как сообщает Politico, Пентагон все еще изучает способы отделения JADC2 от системы ядерного управления, чтобы обеспечить человеческий контроль. Тем не менее, Министерство обороны отмечает в документах, что обе системы «должны разрабатываться синхронно».
При этом сами ученые признают, что не понимают, как работают современные ИИ. «В конечном счете мы вообще плохо понимаем эти системы. Сложно понять, когда им можно доверять, а когда нет», — заявил Патрик Шафто из Управления перспективных исследовательских проектов Министерства обороны США, который возглавил $25-миллионную программу по поиску математических гарантий надежности ИИ.
Как отмечает Politico, американская оборона, по всей видимости, не будет работать без ИИ, хотя эксперты все еще ломают голову над тем, как с ним работать.
«Мы строим этот самолет в полете», — говорит нейробиолог из Массачусетского технологического института Эвелина Федоренко.
