Согласно докладу ООН, то, чего многие давно опасались, произошло впервые: автономный военный беспилотник выследил и напал на сбежавшего солдата в Ливии без инструкций в марте 2020 года. Разведка (ИИ) для определения своих целей была запрограммирована на независимую атаку целей без предварительного подключения к оператору для передачи данных.
Эта атака не только показывает, насколько далеко зашла автономизация систем обычного оружия, называемых летальными автономными системами оружия (LAWS), но и показывает, что они уже используются на поле боя. Роботы решают как использовать оружие и убивать людей без человеческого контроля. Этим они также отличаются от беспилотных летательных аппаратов (беспилотных воздушных систем, UAS),), которые не работают сами по себе, а управляются дистанционно.
Призыв к принятию законов, запрещающих использование таких систем оружия, с годами становится все громче и громче. Это требование оправдано, в частности, опасностью быстрого роста этих оружейных технологий и, как следствие, качественной неконтролируемой гонки вооружений. Если это вовремя не остановить, это грозит массовым и незаконным применением этого оружия.
Обычно государства используют экспортный контроль для регулирования передачи конфиденциальных товаров, технологий или услуг государственным и негосударственным субъектам. Например, они часто ограничивают экспорт оружия массового уничтожения; например, Вассенаарское соглашение, подписанное 41 государством, регулирует передачу обычных вооружений и так называемых технологий двойного назначения, которые могут использоваться как в гражданских, так и в военных целях.
Однако автономные системы вооружений все еще явно не попадают под действие экспортного контроля. Напротив, в Соединенных Штатах, например, Ассоциация аэрокосмической промышленности заявила, что недавние поправки к Договору о передаче обычных вооружений в будущем сделают их еще более гибкими. При условии, что такие системы не попадут в чужие руки, беспилотные дроны могут экспортироваться в другие страны.
В прошлом Соединенные Штаты запрещали Объединенным Арабским Эмиратам, Иордании или Саудовской Аравии покупать американские дроны, но это облегчило Китаю доступ к их рынкам. Что касается ракетных технологий, режим контрольно-пропускных пунктов был изменен в последнюю очередь, поэтому администрация Трампа также использует в этих странах для облегчения экспорта БПЛА - с небольшой оговоркой: например, беспилотник MQ-9 Reaper из General Atomics, скорость полета которого составляет менее 650 километров в час.
В настоящее время никто не может помешать Соединенным Штатам ослабить собственные экспортные ограничения. Хотя на глобальном уровне государства-члены ООН также проводят консультации по экспортным ограничениям на автономные системы вооружений в соответствии с Конвенцией ООН по оружию с 2014 года. Но до сих пор они просто придерживались необязательных принципов, которые, среди прочего, предусматривают, что «при разработке или приобретении новых систем вооружений, основанных на новых технологиях в летальных автономных системах вооружений [...], следует учитывать риск приобретения террористическими группами и риск распространения"
Более того, этот консенсус ООН является лишь рекомендацией, не имеющей обязательной силы, а не применимым международным правом. Таким образом, до соглашения о международно-обязательном договоре, до запрещающих законов еще далеко, и он, скорее всего, потерпит неудачу в ООН, в первую очередь из-за сопротивления со стороны России, США и Китая. Германия также до сих пор не голосует за такой запрет в Женеве, что явно противоречит предыдущим и текущим коалиционным договорам.
Таким образом, отсутствие правил способствует усилению нерегулируемой гонки вооружений, особенно между теми государствами, которые продвигают как техническое развитие, так и экспорт автономного оружия.
Это хорошо видно на соответствующих выставках оружия. Технологические компании в настоящее время активно продвигаются на рынки Ближнего Востока. Они преследуют заявленную цель - вытеснить с рынка все еще доминирующую конкуренцию в Соединенных Штатах. Например, на таких выставках вооружений, как IDEX 2019 в Абу-Даби, китайская компания Ziyan предложила систему вооружения Blowfish - по сути, беспилотный вертолет, оснащенный пулеметом. По словам Ziyan, тип А3 «автономно выполняет более сложные боевые задачи [...] и наносит прицельные удары с высокой точностью». По поводу продажи модели Blowfish A2 Пекин в последний раз вел переговоры с правительствами Пакистана и Саудовской Аравии.
Российская группа концерна «Калашников» производит беспилотный летательный аппарат КУБ с камикадзе, который также имеет автономные возможности. Дрон способен поражать наземные цели на большом расстоянии или доставлять специальные заряды к координатам цели. По словам Калашникова, российский беспилотник должен быть «очень дешевым» по сравнению с американскими и израильскими беспилотниками-камикадзе. Целевым рынком были «меньшие армии» по всему миру.
Тем не менее, американские и израильские компании по-прежнему являются мировыми технологическими лидерами в разработке (частичных) автономных систем оружия. Например, Израиль разработал две полуавтономные беспилотные системы - Harpy и Harop, которые также известны как «бездействующие боеприпасы». Эти системы «патрулируют» целевую область, ищут цели и атакуют их. Harpy, производимый израильской аэрокосмической промышленностью, даже способен обнаруживать радиолокационные сигналы противника и самостоятельно их уничтожать. По сообщениям СМИ, оружию не нужна конкретная цель для запуска, и человек не нужен для принятия смертоносных решений. Израиль уже продал оружие Чили, Китаю, Индии, Южной Корее и Турции.
НАТО не хочет отставать от этого. Лоббисты Европейской отраслевой консультативной группы открыто рекламируют «раннее включение отрасли в качестве ключевого фактора автономной трансформации» на выставках вооружений. При этом производители из стран НАТО уверяют там, что производство автономных систем вооружений технически больше не является проблемой, но при этом всегда стремились соблюдать нормы международного права. Но в конечном итоге клиент решает, какими навыками должна обладать желаемая система.
Спрос на такие системы со стороны европейского пространства велик. В настоящее время особенно востребованы системы, работающие автономно или частично автономно. Например, турецкий дрон Kamikaze Kargu, который только что был продемонстрирован в Ливии, способен патрулировать воздух в течение длительного периода времени, работать в группе, распознавать лица, а также обнаруживать и уничтожать цели самостоятельно и без контроля человека. Kargu в настоящее время используется не только в Ливии, но и на границе с Сирией. А также французская оборонная компания MBDA и Milrem Robotics из Эстонии представили частично автономную беспилотную противотанковую систему, которая уже используется в Мали, на Международной оборонной выставке еще в 2019 году.
Ожидается, что Future Combat Air System (FCA), совместный проект стоимостью миллиард долларов, разрабатываемый Airbus, Dassault Aviation, MTU и MBDA, будет работать хотя бы частично автономно. FCA, получившая название System of Systems, предназначена для интеграции всех пилотируемых и беспилотных воздушных боев и компонентов поддержки искусственного интеллекта, начиная с 2040 года. Центральным элементом FCAS является система вооружения NGWS Next Generation, которая разрабатывается совместно Германией. , Франция и Испания. NGWS состоит из трех компонентов: во-первых, истребитель следующего поколения (NGF), во-вторых, беспилотные самолеты поддержки и автономные беспилотные рои и ракеты, соответственно, и в-третьих, «боевое облако», которое в качестве серверной структуры объединяет все системы друг с другом. Система предназначена для обеспечения «масштабируемой автономии», которая гибко обеспечивает ряд режимов работы без участия человека.
Хотя FCA все еще находится в разработке, боевой робот Rheinmetall Mission Master готов и может управляться дистанционно, частично или полностью автоматически и оснащен дронами-камикадзе, которые, по словам производителя WB Group, могут работать «полностью автономно во время атак». Кроме того, франко-немецкая оборонная компания KNDS уже предлагает беспилотный вооруженный роботизированный автомобиль (OPTIO X20), который может работать удаленно или автономно.
Но не только старые известные производители оружия хотят участвовать в бизнесе роботов-убийц. Также известные технологии или технологии. ИТ-компании давно выставляются на оружейных шоу, чтобы предложить свои ИИ и облачные технологии для интеграции в автономные системы вооружения.
Например, Amazon или даже Microsoft уже давно обсуждают проект Joint Defense Enterprise Infrastructure (JEDI) стоимостью 10 миллиардов долларов для Министерства обороны США, который будет использоваться в качестве облачной инфраструктуры для Пентагона и местных солдат, и в настоящее время модифицируется. Руководитель проекта заявил, что программа направлена на «повышение летальности нашего отдела». Критики предупреждают, что ИИ будут играть важную роль в том, как работают автономные системы оружия, такие как идентификация целей или обработка другой информации.
Само по себе военное использование ИИ не является проблемой. Это можно использовать, например, для автономных действий во время взлета и посадки или для навигации. Однако, если ИИ или облачные технологии используются в системах вооружений, чтобы позволить им автономно выбирать цели и атаковать их, это очень проблематично. Потому что разработка такого оружия имеет огромное влияние на то, как ведется война. Если вы начнете подавать заявку, люди будут намеренно исключены из процессов принятия решений в определенных боевых действиях, что позволит им выполнять ограниченную функцию надзора, например, устанавливать только общие параметры миссии, но все дальнейшие военные действия будут выполняться автоматически.
Все это показывает, что, если не будет согласован международный запрет на производство, использование и передачу летальных автономных систем оружия, они очень скоро станут стандартным оборудованием для большинства армий по всему миру. Но тогда они также грозят попасть в руки террористов, диктаторы будут использовать их для контроля и подавления собственного населения, военачальников, при поддержке которых они проводят этнические чистки.
Технологические компании также должны быть охвачены таким контрактом о запрете. Пока это не произойдет, вы должны предпринять шаги, чтобы не допустить, чтобы ваша технология способствовала разработке и производству летального автономного оружия. Кроме того, они должны публично взять на себя обязательство не поощрять разработку такого оружия.
Если эта (частичная) активация автономных систем оружия не удалась, очень скоро мы получим больше сообщений о роботах-убийцах, которые сами преследуют, атакуют и, в конечном итоге, убивают людей. Это, конечно, не сделает мир более мирным.
