Добавить в корзинуПозвонить
Найти в Дзене
Записки КОМИвояжёра

Если искусственный интеллект нажмет красную кнопку в Третьей мировой, кто его остановит?

Эксперты Стокгольмского международного института исследования проблем мира (SIPRI) считают, что сейчас на планете существует примерно 12 241 ядерная боеголовка. Они сосредоточены в девяти странах: США, России, Великобритании, Франции, Китае, Индии, Пакистане, Северной Корее и Израиле. Около 9 614 из них находятся в активных военных запасах, но есть и готовые к применению, в повышенной боевой готовности – около 2100 боеголовок. Готовность означает, что боеголовки уже прикреплены к баллистическим ракетам на подводных лодках, кораблях или в бомбовых отсеках стратегических бомбардировщиков. В считаные минуты после получения приказа эти заряды будут запущены к цели. Россия и США владеют на двоих приблизительно 90% всего мирового арсенала. Долгое время эти страны сохраняли свои запасы стабильными, но последние годы там началась активная и дорогостоящая модернизация. При этом растёт и ядерный арсенал Китая, Индии, Пакистана, Израиля и Северной Кореи – за 40 лет совокупное число ядерных зарядо

Эксперты Стокгольмского международного института исследования проблем мира (SIPRI) считают, что сейчас на планете существует примерно 12 241 ядерная боеголовка. Они сосредоточены в девяти странах: США, России, Великобритании, Франции, Китае, Индии, Пакистане, Северной Корее и Израиле. Около 9 614 из них находятся в активных военных запасах, но есть и готовые к применению, в повышенной боевой готовности – около 2100 боеголовок.

Межконтинентальная баллистическая ракета
Межконтинентальная баллистическая ракета

Готовность означает, что боеголовки уже прикреплены к баллистическим ракетам на подводных лодках, кораблях или в бомбовых отсеках стратегических бомбардировщиков. В считаные минуты после получения приказа эти заряды будут запущены к цели.

Россия и США владеют на двоих приблизительно 90% всего мирового арсенала. Долгое время эти страны сохраняли свои запасы стабильными, но последние годы там началась активная и дорогостоящая модернизация.

При этом растёт и ядерный арсенал Китая, Индии, Пакистана, Израиля и Северной Кореи – за 40 лет совокупное число ядерных зарядов этих стран увеличилось почти на тысячу единиц.

Китай, начиная с 2023 года, увеличивает свой арсенал примерно на сотню боеголовок каждый год. Данные SIPRI свидетельствуют, что на начало 2025 года Поднебесная располагала уже 6000 ядерных боеприпасов. А в ближайшее десятилетие Китай сможет превзойти Россию и США по числу межконтинентальных баллистических ракет.

«Корея готова ответить», – заявил вождь
«Корея готова ответить», – заявил вождь

Эксперты SIPRI утверждают, что гонка ядерных вооружений не так страшна, как новая технологическая угроза: лидеры стран и военное руководство все больше и больше полагаются на ИИ для управления протоколами ядерных запусков. Аргумент в пользу нейросетей на первый взгляд кажется очень убедительным: системы ИИ способны обрабатывать гигантские объемы данных (спутниковые снимки, радиолокационные сигналы, данные разведки) в режиме реального времени, потенциально ускоряя и оптимизируя процесс принятия решений в условиях кризиса, но именно в этом и таится главная опасность.

«Если решение о запуске ядерного оружия когда-нибудь будет полностью передано искусственному интеллекту, мы приблизимся к истинным сценариям конца света», – так уверенно заявляет Дэн Смит, директор SIPRI. Почему известный эксперт так говорит?

Была команда атаковать – или система дала сбой?
Была команда атаковать – или система дала сбой?

ИИ, как и любая сложная система, подвержен сбоям или уязвим к кибератакам. Ложное срабатывание системы предупреждения, неверная интерпретация данных, и нейросеть может увидеть ядерную атаку там, где ее нет и в помине.

ИИ не свойственны сомнения, интуиция или понимание катастрофических последствий ошибки – те самые качества, которые иногда спасали мир. Скорость ИИ означает, что у людей в будущем может просто не хватить времени на вмешательство и проверку данных, как это было в прошлом.

История ядерного противостояния знает моменты, когда мир висел на волоске из-за ошибок и недопонимания. Один из самых известных случаев произошел 26 сентября 1983 года.

Подполковник Петров следил, как на экране фиксировалась «кар­тинка» ракетных шахт американцев, видимых со спутников. Неожиданно в помещении командного пункта заревела сирена, на табло заго­релись красные буквы слова «Старт». Спутник сообщал, что американская ракета выш­ла из шахты.

Подполковник Петров прямо по инструкции потребовал проверить систему и получил ответ: все уровни контроля показывают исправность.

Станислав Петров тогда и сейчас
Станислав Петров тогда и сейчас

Сирена заревела снова, красная над­пись сменилась на «Ракетное нападение». Значит, за первым пуском противника по­следовали второй, третий, четвертый...

Петров понял, что его останавливает: все ракеты показаны взлетающими с одной базы, но логика говорит, что удар должен наноситься из многих точек, чтобы подавить возможность ответа противника. Теперь нужно нажимать кнопку тревоги и сообщать руководству о том, что началось ядерное нападение, либо сообщать начальству, что система даёт ложную информацию. Но если он ошибётся, тогда последствия для Советского Союза будут необратимыми...

Петров дал команду считать сигнал о ядерной атаке ложным.

Сейчас многие эксперты считают, что тем самым подполковник спас планету от ядерной войны. Так что данный инцидент ярко иллюстрирует критическую важность человеческого фактора, сомнения и времени для осмысления в ядерном конфликте.

«Скорость, с которой работает ИИ, означает, что в будущих конфликтах у таких людей, как Петров, может не хватить времени, чтобы предотвратить решение компьютера нанести ответный удар», – мрачно прогнозирует Смит.

Современная ситуация лишь подчеркивает реальность этих опасений. В острых условиях соблазн положиться на «неутомимый» и «быстрый» ИИ для анализа угроз и управления системами сдерживания может оказаться сильнее, чем когда-либо, и тогда ИИ отдаст приказ...