Статья опубликована от имени и принадлежит https://imonfire.xyz
Весь мир со страхом в глазах смотрит на технический прогресс в военной сфере. Сколько же всего уже было сделано: дроны, автоматизированные системы защиты с инфракрасными датчиками и т.д. Но это только начало: пока ведется диспут вокруг ИИ, настоящие роботы-убийцы уже разрабатываются и очень важно понимать, что машина не склонна к эмоциям и ошибкам, а значит - она лишена права принимать решение о смерти. Перевод статьи от PAX
Что такое роботы-убийцы?
Роботы-убийцы - это автономное оружие, которое может выбирать и атаковать цели без значимого контроля со стороны людей, то есть, без прямой инструкции от человека-оператора. Это та функция, которая может быть применена к различным системам вооружения, например к боевому танку, истребителю или кораблю. Часто роботов-убийц путают с дронами. Тем не менее, у дронов все еще есть оператор, который выбирает и атакует цели с расстояния. Другое недоразумение заключается в том, что роботы-убийцы такие же, как Терминатор или Робокоп. Это концепции научной фантастики, которые вряд ли станут реальностью в ближайшие десятилетия, если будут созданы вообще. [Аминь] Системы оружия, которые могут самостоятельно выбирать и атаковать цели, затрагивают многие юридические, этические и иные аспекты, в частности - безопасности.[Экономический аспект автором не упомянут, однако, он наиболее интересен: человек - самый дешёвый ресурс в войне]. Поэтому, PAX нацелен на запрет разработки, производства и развертывания автономного оружия. Уже в 2011 году PAX предупредил об этой разработке и в апреле 2013 года основал международную кампанию для того, чтобы остановить убийственных роботов.
Существуют ли роботы-убийцы?
Убийственные роботы, скорее всего, еще не существуют, но есть маркеры, которые четко показывают тенденцию к увеличению автономности военных технологий. Примером может служить Гарпия, которая может часами искать радиолокационные сигналы врага, после обнаружения которых, она атакует и уничтожает радар противника посредством саморазрушения. Иным примером является SGR-1 - вооруженный робот на границе между Северной и Южной Кореей. Он имеет пулемет и гранатомет и может обнаруживать людей через инфракрасные датчики. Технология, необходимая для производства этого оружия, развивается невероятно быстро. Такие страны, как Китай, Россия, Израиль, Соединенные Штаты и Соединенное Королевство уже проявили интерес к разработке таких систем вооружений.
В чем проблема?
Для нас наиболее важная проблема - этическая. Машина никогда не должна принимать решение о жизни и смерти. Это решение не может быть сведено к алгоритму. Тогда есть юридические проблемы. Автономное оружие вряд ли сможет соответствовать Международному гуманитарному праву, поскольку маловероятно, что они смогут правильно провести различие между гражданскими лицами и бойцами.[На самом деле, это реализуемо: достаточно использовать доп. маркеры при идентификации: наличие формы, оружия и пр. Но вопрос в качестве такой идентификации, как насчет ребенка с пистолетом или гражданского в военной форме?] Автономное оружие также создает вакуум в отчетности. Кто будет нести ответственность за незаконный акт: робот, разработчик или военный командир? Кроме того, присутствуют проблемы с безопасностью. Автономное оружие может снизить порог для применения силы и уменьшить стимул для поиска политических решений во имя прекращения конфликтов. Эта технология может привести к новой международной гонке вооружений, которая будет дестабилизировать, а её последствия - угрожать международному миру и безопасности. Что произойдет, когда диктаторы или террористы получат это оружие?[Аллаху Акбар с дронами уже был]
Что хочет PAX?
PAX хочет, чтобы государства установили превентивный запрет на разработку, производство и использование роботов-убийц. С этой целью PAX основал кампанию по прекращению убийственных роботов в 2013 году. Эта международная коалиция нацелена на запрет на подобное оружие и выступает за это на форумах Организации Объединенных Наций и др. Следует заметить, что такая технология продолжает развиваться быстрыми темпами, поэтому крайне важно, чтобы мы как можно скорее приняли решение о том, где провести границу дозволенного. Поддержка запрета постоянно растет. В настоящее время существует 22 страны, которые призвали к запрету. В 2015 году более 3000 экспертов по искусственному интеллекту и в 2017 году 116 генеральных директоров робототехнических компаний предупредили нас об этом оружии и призвали ООН принять меры. Европейский парламент, двадцать Нобелевских лауреатов мира и более 160 религиозных лидеров также призвали к запрету на автономное оружие.
Что такое Голландская позиция?
Национальная позиция Нидерландов по автономному оружию основана на докладе двух консультативных советов от 2015 года. PAX занимает критическую позицию в этом отчете. Самое большое беспокойство заключается в том, что в докладе говорится, человеческий контроль таких устройств на этапе программирования и развертывания является достаточным, а контроль оператора над выбором и атакой целей не требуется. Также, в докладе отсутствует чувство неотложности данного вопроса и уделяется мало внимания международному контексту и этическим проблемам. PAX продолжает работать в направлении сдвига в политике Нидерландов.
Международные дебаты
Этот вопрос был впервые обсужден в Совете по правам человека в 2013 году после доклада Специального докладчика ООН Кристофа Хейнса. Затем вопрос был рассмотрен Конвенцией ООН по обычным вооружениям (КОНВ), где в 2014, 2015 и 2016 годах проводились неофициальные совещания экспертов. В 2017 году первая группа правительственных экспертов (ГПЭ), имеющая более формальный мандат, проходила на КОНВ. В 2018 году состоится 2 заседания ГПЭ: одна неделя в апреле и одна в августе. PAX примет участие во всех встречах на КОНВ, где мы встретимся с дипломатами и выступим на побочных мероприятиях.
Статья опубликована от имени и принадлежит https://imonfire.xyz