Автор: А.Халецкий
Знаете, почему “Терминатор” - культовый фильм?
Потому, что Откровение. (Конечно, никто к нам ещё не прилетел. Пока).
Но фильм затронул один очень важный вопрос: “Куда могут привести технологии?”
И тут уже не важно, осознает некий абстрактный "Скайнет" себя как личность. Или нет.
Важно, какие решения будет “принимать” искусственный интеллект. И не менее важно - как он будет это делать? Какие “мыслительные процессы” будут “в голове” у робота, которому доверят убивать (пусть даже для обороны).
Ведь чем дальше, тем призрачнее граница между живым мозгом и искусственным интеллектом.
Что такое искусственный интеллект? Это имитация умственных процессов. Сопоставление различных данных, формирование плана для дальнейших шагов.
Но и обычный человек действует также, согласитесь?
Совсем недавно, в 2020 году, произошло "знаковое" событие.
На севере Ливии в ходе столкновений между частями Халифы Хафтара и подразделениями правительственных войск робот "САМ" атаковал человека. То есть, без приказа оператора...
А вот теперь нам нужно соотнести такие понятия как "Роботы" и "Международное гуманитарное право" (МГП).
Допустим, сюда забрел совсем свежий читатель, совершенно незнакомый с терминологией.
Термин “Робот” вопросов не вызывает (есть также аббревиатура "АРС" - автономная роботизированная система).
А МГП - это право войны. И снова свежий читатель, возможно, спросит: "Что за право на войне? На войне как на войне".
Конечно, нет.
Международное гуманитарное право, его нормативные акты, регулируют отношения в области ограничения методов ведения войны.
Там сказано, например, что нельзя ставить медицинские опыты над военнопленными в концлагерях.
Что нельзя загонять людей в дома, а потом сжигать дома вместе с людьми из огнеметов.
Нельзя взрывать Дворцы Петергофа так, чтобы "осталось потом только небо".
Много правил.
Есть ограничения, которые касаются самого оружия.
Запрещены, например, пули со смещенным центром тяжести, химическое, бактериологическое оружие...
А вот автономные боевые роботы пока не запрещены.
Казалось бы? Какие проблемы?! Тоже нужно запретить! Как же можно доверить роботу - самому принимать решение убивать или не убивать? А если у него переклинит что-то в микросхемах?!
Однако всё не так просто.
Оператор боевого дрона тоже может ошибиться. И солдат. И командиры! И ошибались, много случаев за всю историю… Загоняли своих людей под огонь соседней роты, тонули ночью в болотах, давали неверные данные артиллерии и авиации.
Так что у автоматизации в данном сфере - свои преимущества. Вот, например, многие протестовали против автоматических грузовиков. И ничего, на Западе, в США их больше и больше.
А вспомним, когда автомобили вообще только появились. Их тоже хотели запретить! Это же опасно! Очень высокая скорость, людей они давят намного больше, чем лошади.
Однако технический прогресс нельзя остановить. Сейчас мы вообще не представляем своей жизни без автомобилей.
Да, конечно, боевые автономные роботы, это нечто другое…
Давайте разберемся, чем характеризуются боевые автономные роботы. В чём их суть?
Итак, роботы оснащены искусственным интеллектом, который:
а) выдает решение (однако не логику построения);
б) в любом случае формален;
в) не оснащён моралью, то есть, ещё более формален.
г) подвержен хакерским атакам.
Соответственно, необходимо закрепить на уровне нормативных актов МГП следующие технические характеристики автономного боевого робота и его программного обеспечения (затем эти нормы следует строго выполнять, контролировать их соблюдение и наказывать за нарушение):
1) протоколы принятия решения робота в совершенной степени обеспечивают верное распознавание "свой-чужой", а также молниеносную реакцию на столь же молниеносно меняющиеся юридические факты во время боя (солдат противника бросил автомат, вроде, поднял руки, а затем тут же выхватил и метнул гранату).
2) иметь возможность прекратить свое боевое задание, в случае, когда необходимость в нём отпала, а также избирать "не чрезмерные", достаточные, гуманные методы ведения войны,
3) программное обеспечение робота в значительной степени должно быть защищено от перехвата, от хакерской атаки, а также от вероятности технических программных сбоев.
На это можно возразить, а как же быть с моралью? Казалось бы, это главное уязвимое место! Робот не испытывает жалости, он вообще ничего не испытывает.
Однако вспомним Бальзака, великого мыслителя и ученого:"Будем же учиться хорошо мыслить: вот основной принцип морали". Действительно, если мы научим робота "мыслить хорошо", это уже будет очень много.
А теперь вернёмся к началу: "Робот атаковал человека. Сам".
Некоторые готовы с удовольствием ужаснуться. Будто люди совсем не занимаются роботостроением и идут по какому-то другому пути развития. И вообще они - все чрезвычайно гуманны. Эти люди...
А ведь никакие разумные роботы не прилетели с других планет и не пытаются захватить наш мир.
Убиваем себя мы сами. Много тысячелетий. И достаточно успешно.
Значит, тогда, в Сирии, в 2020-м, произошло то, что происходит, уже очень давно. Один человек уничтожил другого. С помощью оружия, которое сам человек и создал.
У проблемы есть, конечно, техническая сторона.
На данный момент боевые роботы, тем более автономные - достаточно новый вид вооружения.
Да, конечно, программное обеспечение, постоянно развивается (есть мнение, что мы вообще живем на пороге 4-й промышленной революции).
Однако сейчас, можно сказать с уверенностью. Современное программное обеспечение далеко еще не на том уровне, чтобы дать роботу возможность самому решать: "Можно ли ли атаковать конкретного человека?"
А самая главная проблема - конечно же, не в роботах и не в программах для них.
Главная проблема - всё та же.
В условиях мира, который меняется всё больше и больше. И неизменно становится сложнее и сложнее - вечная проблема - обеспечить ответственное поведение и мышление самого Человека.
Любители лёгкого чтения загляните на канал ТыжИсторик , где вас развлечёт весёлыми изысканиями коллектив народных историков.
Спасибо что дочитали до конца. Если понравилась публикация ставьте "лайк", подписывайтесь и оставайтесь на связи, будет ещё много интересного.
Все представленные в статье фотографии взяты из открытых источников и принадлежат их авторам.