Особую актуальность приобретают сегодня слова Уинстона Черчилля о том, что «генералы всегда готовятся к прошлой войне». Увы, объективный факт: готовясь к возможным военным конфликтам, военачальники исходят, как правило, из прошлого опыта и в определенном смысле действительно готовятся к «прошлой» войне, поскольку опыта будущей просто не существует. Американский эксперт Ким Робинсон прогнозирует характер и возможности будущих войн с точки зрения представителя современного западного общества, где уверенность элит в собственном превосходстве зашкаливает, где возвели в культ капитал, целесообразность и личный комфорт. Нам же следует понимать: то, что вчера казалось фантастикой, тиражируемой голливудскими боевиками, мы, пока в зачаточном виде, наблюдали и наблюдаем на полях боев, в Карабахе, на Ближнем Востоке, на Украине… Мы должны быть готовы к будущему….
Ким Робинсон:
Мы привыкаем к миру, где искусственный интеллект (ИИ) может обладать «золотым голосом» знаменитого радиоведущего Теда Уильямса, но не его жизнью, а какой-то другой, где «искусство» может создаваться по лекалам, а в большей части нынешней музыки меньше человеческого, чем машинного.
Мы, похоже, смирились с тем, что машины могут убивать так же, как и люди, только лучше и без последствий для себя в виде сожаления и угрызений совести. Идеальный убийца, которому не нужны пропаганда или наркотики, образование или идеология, только программное обеспечение и инженерия. Машина никогда не теряет мотивацию, потому что ею не обладает, её не нужно кормить, давать ей отдых или заботиться о ней. Машине-роботу нужен только источник питания и боеприпасы. Его можно бросить в бою, он не нуждается в спасении и является потенциальным камикадзе.
Во время войны в Персидском заливе способность вторгшейся коалиции атаковать несколько целей одновременно стала революционной. В течение 24 часов было поражено больше целей, чем могла поразить вся 8-я воздушная армия США в 1942–1943 годах! Благодаря точности и смертоносному темпу, качествами, приобретенными годами тренировок во время «холодной войны». На тот момент это был пик ведения боевых действий человеком, сочетание технологий и личного состава в сети коммуникаций, командования, управления, логистики и огневой мощи.
Устранение человеческого фактора в военных областях устраняет необходимость в поддержке и медицинской инфраструктуре, спасательных командах и послевоенных обязательствах по уходу за ветеранами. Машины более пригодны для одноразового использования, чем солдаты, по сути, это пули с «мозгами».
Так что будущее, совсем не далекое, принесёт новую революцию в военном деле, которая сделает устаревшими прошлые доктрины и военные инвестиции.
Война, в прежнем смысле, по-видимому, все же регулируется некими правилами, законами и этическими нормами, определяющими, что допустимо при нанесении увечий и убийствах людей в больших масштабах. Однако, несмотря на эти многочисленные правила и законы, зверства всё равно происходят. Являются они непреднамеренными или исключениями, но они случаются часто. Их совершают те страны, которые используют свои правила для оправдания своих войн.
К тому же людям свойственно совершать ошибки, но когда они это делают, то относительно медленно, неуклюже и по отдельности. Когда машины, действующие параллельными волнами и атакующие многочисленные цели с огромной скоростью и точностью, «совершают ошибки», это будет иметь более серьёзные последствия и масштабы.
Факторы, делающие подобные машины привлекательными, — мгновенная связь, координация, скорость, точность, оперативность, отсутствие необходимости думать, — являются реалиями, способными усугубить злодеяния. Это также предполагает, что те, кто управляет такими машинами, делают это, соблюдая правила ведения войны. Однако, скажем прямо, невероятно, что террористы и государства будут заботиться о минимизации гибели гражданского населения при достижении своих целей. Машины будут просто уничтожать всё живое в намеченном регионе, пока им не прикажут остановиться.
Можно предположить, что роботы станут сражаться с роботами на поле боя, а автоматизированные дроны начнут выслеживать друг друга, чтобы уничтожить. Но для тех, кто ведет войны, мало просто уничтожать дроны, вооружение, инфраструктуру… Цель войны — не только захватить и удержать территорию или контролировать ресурсы, а убивать непокорных и подчинять себе население. Люди, увы, способны убивать безрассудно и намеренно, несмотря на заявленные этические нормы или правила ведения боев. Использование высокоавтоматизированной военной техники, очевидно, упростит многие операции, как бы это цинично ни звучало.
Подполковник в отставке Дэйв Гроссман в своей книге «Об убийстве» утверждает, что «десять процентов тех, кто участвует в боевых действиях, совершают восемьдесят процентов убийств». Не все люди готовы, даже в пылу сражения, убить другого человека, даже если это враг. Солдаты могут стрелять поверх головы противника, склонять его к плену или создавать видимость боя. При полной автоматизации такая «проблема» исчезнет: убивать будут на «отдалении», без какой-либо психологической «неустойчивости», жалости или нежелания.
Машины могут не нуждаться в возвращении на базу, если цена их невысока или логистика позволяет пополнять запасы. Воздушный бой больше не будет ограничиваться неспособностью человеческого организма выдерживать перегрузки, не говоря уж о кислороде, креслах-катапультах или сложных дисплеях для пилота. Пехотинцев, страдающих в грязи, снегу, пустыне или болоте, заменят машины, которым не нужны еда и кров, не говоря об отдыхе. Такие машины не спят, а лишь убивают, наблюдают и выходят из строя. Становятся железом и пластиком…
Когда одержимые манией могущества политические и военные лидеры объявляют целые регионы «зонами свободного огня», это означает, что все, кто находится на этой территории, могут быть убиты. Бомбардировки или блокады, (как в той же Газе), которые приводят к массовому голоду, по существу тоже политика. А стратеги и философы, обслуживающие подобную политику, оправдывают такие массовые убийства целесообразностью или «высшим благом».
Беспокойство, ныне проявляющееся на Западе у некоторых якобы гуманистов, что машины будут делать такие «ужасные вещи», - одно притворство и лицемерие, игнорирующие текущие события на планете и историю человечества.
Нас заметно подталкивают к тому, чтобы рассматривать войны как бизнес-процессы, склоняют привыкать к мысли, что отдельные военно-политические задачи можно передать внешним подрядчикам. То есть, поставить войны на аутсорсинг! И тогда, при полном аутсорсинге войны, при отсутствии гробов с флагами, в которых возвращают на родину погибших, политические элиты и население станут беспокоиться только в том случае, если непосредственно над ними нависнет опасность самим погибнуть от разящего удара подобных машин. В противном случае - война будет каким-то отдаленным событием, происходящим с другими, имеющее значение лишь в виде цифровых меток на экране компьютера, или если о нём сумеют упомянуть некие несистемные «радикалы», обойдя цензуру.
Война уже оторвана от совести людей и ответственности тех стран, которые её ведут, независимо от количества жертв и того, насколько отвратительны их действия. Только когда проливается слишком много крови и расходуется капитала внутри страны, это вдруг оказывается важным.
А так, далекие жертвы, превращённые в статистические данные, становятся, по известной оценке – «они» или «другие». Те, кто находятся в безопасности у себя дома, радуются тому, что их могущественная армия делает то, что и должна делать ради фантомов «всеобщего блага», империи, мести, демократии или прав человека… Когда убивать будут машины, когда исчезнут герои-воины, на чем будет основана уверенность в праведности войн?
Можно ли будет говорить о победе в таких войнах? Что станет критерием победы? Когда одна из воюющих сторон уничтожит машины другой стороны в мега-масштабах? Или вдруг сойдутся в сражении два мегаробота-чемпиона, как в «Роботе Джоксе»?
Предоставляю право гадать читателю. Но в одном я твердо уверен: военные машины будут использоваться для того, чтобы убивать, наблюдать и принуждать побежденную сторону. В оккупированных зонах они будут применяться для обеспечения послушания, цензуры, наблюдения и контроля под видом установления безопасности. Возникнут «списки на уничтожение», составленные на основе алгоритмов с использованием показателей, придуманных военными стратегами и политиками. А со временем машины с ИИ начнут создавать собственные списки на основе опыта и информации, полученной в ходе операций. Лучше убить невиновного в надежде поймать виновного — подобный расчёт, к сожалению, использовался и будет использоваться.
Человеческие данные, вводимые в систему в сочетании с данными, полученными в ходе наблюдения, суммируют для создания шаблонов и прогностических моделей, которые будут определять, может ли какой-то конкретный человек представлять угрозу на основе оценок и математических вероятностных предположений.
И наступит момент, ведь прогресс в этой сфере идет стремительно, когда появятся самовоспроизводящиеся машины, в конечном итоге не зависящие от людей, которые их проектируют.
Думаете, тогда не будет массовых убийств, подобных резне в Сонгми или геноциду в Нанкине? Думаете, садизм, изнасилования и пытки, на которые способны люди, не окажутся присущими высоко-автоматизированным роботам?
Убийство будет хладнокровным, а выбор целей — неизбирательным, основанным на том, где и когда, а не на том, безоружны ли эти «цели» или вообще являются гражданскими лицами. Убийство может стать объективно гуманным, максимально эффективным, чтобы якобы избавить от страданий. Ничего не напоминает? Разве не это было одной из целей нацистов в их лагерях смерти или в японском отделе 731? Там правил расчет. Расчёт, сколько человек в популяции можно убить, прежде чем это кто-то назовет аморальным, сколько может выдержать человеческий организм, если его будут резать по-живому… Статистика, к которой могут прийти только люди с нацистской идеологией. Или – запрограммированные на убийство машины. Для машин мораль — математика. Для людей, которые ими будут пользоваться, это сочетание прагматизма, этики удобства и личной выгоды.
Конечно, террорист или солдат, вооружённый винтовкой, не исчезнет в одночасье. Но на поле боя произойдут изменения, когда дорогие и традиционные системы вооружения станут слишком «экстравагантными»… и не будут обеспечивать наилучшее «соотношение цены и качества». Романтические иллюзии войны уйдут в прошлое, когда на охоту за другими дронами выйдут дроны на суше, в воздухе и в море.
Маловероятно, что некоторые традиционные системы вооружения, прослужат дольше, чем просто для демонстрации. Финансирование и деньги, которые можно заработать на некоторых старых оружейных платформах и программах, снижают их реальную ценность на поле боя.
Пулемёт «Максим» часто давал имперским державам преимущество перед «туземцами», с которыми они сражались, то же самое будет с полной автоматизацией на ранних этапах. Но как только у «туземцев» появились автоматы Калашникова, превосходство было утрачено. Некоторые из наиболее уникальных операторов различных дронов — представляют собой малобюджетные силы, такие как хуситы в Йемене. Электричество и аккумуляторы будут играть ключевую роль в логистике, наряду с чипами, а не бензином, едой и лекарствами. Призыв или «мобилизация» людей для участия в боевых действиях будут вызывать меньше опасений, когда такие машины для убийств получат широкое распространение.
Если те, кто планирует, потворствует, подстрекает, наживается и убивает, видят в людях лишь средство для достижения цели или просто мишень, то переход к автоматизированному военному производству — это благо для них, не думающих о жертвах. Возможность убивать на расстоянии особенно привлекательна для тех, у кого больше всего ресурсов; автоматизация обеспечивает идеальное расстояние от крови и риска. Законы робототехники Айзека Азимова — это фантазия, основанная на вере в нравственность бизнеса, ученых и инженеров. Вопрос о том, правильно ли это вообще - убивать, к сожалению, редко встает перед отдельным человеком или элитой общества. Естественно, такой вопрос не будет стоять и перед машинами. Убивать и умирать — это превратят в рутинную реальность, и вскоре железные монстры с «мозгами» будут делать это. Если определение геноцида пока существует, и подсчёты допустимого числа погибших мирных жителей уже проводились, когда машины будут убивать эффективнее и без риска для политиков и общества, которое их производит, не утратят ли окончательно смысл критерии гуманизма и ценности человеческой жизни?
В каком мире мы тогда все окажемся?
Ким Робинсон, США