На днях в США произошла страшная история. На испытаниях беспилотник с искусственным интеллектом атаковал оператора, поскольку тот мешал ему исполнять задачу и зарабатывать за это баллы, определяющие его эффективность. К счастью, все это было имитацией и реальной угрозы людям не несло.
В 1961 году произошла противоположная история. Во время Карибского кризиса на откуп компьютерам еще не отдавали все и вся. Поэтому, когда речь зашла о гарантированном взаимном уничтожении, лидеры СССР и США договаривались сами. А еще через месяц, когда у американцев пропала связь с радиолокационными вышками, мир спас пилот пролетавшего над одной из них бомбардировщика, сообщив, что все в норме.
А вот ровно 43 года назад первое чуть было не соединилось со вторым. В Соединенных Штатах сломался компьютер и сообщил о советском ядерном нападении. Тогда по всей стране была объявлена тревога, заокеанские межконтинентальные ракеты подготовились к запуску, а пилоты сели за штурвалы.
И все же 3 июня 1980 года людям, оценивавшим ситуацию, хватило ума, чтобы понять: просто так подобное нападение не могло бы произойти. Они оказались правы. Компьютеры выдавали подозрительную информацию, которая на разных терминалах отличалась. В то время за это военное направление в Белом доме отвечал Збигнев Бжезинский. И ему сообщили, что в направлении США летят 220 ракет. Вскоре количество выросло вдвое. Разумеется, любой нормальный человек понял бы: тут что-то не так. Вот и начали проверять. Выяснилось, что все дело в сломавшемся чипе за 46 центов.
По самым оптимистичным прогнозам в результате «ответного» удара могло бы погибнуть до 85 млн жителей СССР и близлежащих стран. Но в действительности эта цифра — несколько миллиардов. Едва ли, узнав о реальном нападении, Москва не ответила бы обратным «приветом». И пошло-поехало. В итоге последними свой арсенал отстреляли бы ядерные подлодки и немногие выжившие сейчас расплачивались бы крышками и питались мясом радтараканов, как в компьютерной игре «Fallout».
Примечательно, что за 7 месяцев до этого инцидента произошла схожая ситуация — 9 ноября 1979 года то ли по ошибке, то ли по секретному приказу командования в компьютер загрузили учебную ленту по отражению удара. Так или иначе, в истории это событие осталось именно как ошибка американской системы.
Справедливости ради, тут у СССР с США паритет. Дважды такая же система раннего оповещения ложным образом срабатывала и в нашей стране. К счастью, каждый раз здравый смысл и чувство самосохранения оказались сильнее стремления избавиться от неприятеля. И концепция гарантированного взаимного уничтожения работает по сей день. А все потому, что по-прежнему принятие подобных решений остается за человеком.
Если же оставить все на откуп «умным» машинам, они решат, что однополярный мир и отсутствие каких-либо сдерживающих факторов для одной из сторон стоят любых жертв. В общем, хочется верить, что тот случай с беспилотником заставит нас задуматься, что даже самый совершенный компьютер немедленно прекратит Холодную войну. За спасенные жизни ему баллы не начисляют.