Интеграция искусственного интеллекта в военные системы вызывает значительные опасения, особенно в отношении контроля и развертывания высоко разрушительного вооружения, такого как ядерные боеголовки. Соединенные Штаты уже подтвердили свое намерение сохранить контроль над ядерным оружием в человеческих руках, а теперь призывают другие крупные державы, такие как Китай и Россия, сделать то же самое.
Пол Дин, официальный представитель Государственного департамента по контролю над вооружениями, подчеркнул важность человеческого контроля во время онлайн-брифинга. Он подчеркнул необходимость ясных гарантий того, что ИИ не будет превосходить человеческое принятие решений в вопросах ядерного развертывания, повторяя аналогичные обязательства, сделанные Великобританией и Францией. Это позиция соответствует усилиям по установлению ответственного поведения среди постоянных членов Совета безопасности Организации Объединенных Наций.
Несмотря на недавние обсуждения между Китаем и США по ядерным вопросам, ожидается, что формальные переговоры по контролю над вооружениями будут длительными. Китай, расширяя свои ядерные возможности, выступает за заключение договора о невозможности первого удара между крупными государствами, обладающими ядерным потенциалом.
Быстрое развитие технологии вооружений, управляемых ИИ, придает особую актуальность этим обсуждениям. Недавние испытания ВВС США, включая боевые истребители, управляемые ИИ, ведущие бои с человеческими пилотами в симулированных боях, подчеркивают увеличивающуюся автономность военных систем.
Призывы к регулированию и контролю за вооружениями, управляемыми ИИ, нашли отклик среди экспертов, таких как Илон Маск, который подчеркивает необходимость превентивных мер для предотвращения потенциального злоупотребления оружием.