Искусственный интеллект (ИИ) изменит нашу жизнь. Это затронет практически все аспекты жизни общества: бизнес, образование, транспорт, медицину и даже политику. В большинстве случаев это принесёт огромную пользу человечеству, поскольку избавит от тяжелой, рутинной работы, исключит риски в процессах жизнедеятельности, связанные с усталостью, эмоциями и напряжением, присущим человеку. Значительно повысит производительность. И т.д. и т.п.
Но есть одно место, где очень опасно его присутствие - это армия.
Мир, в понятии состояние без войны, станет более зыбким , если через 20 лет военные начнут широко использовать летальные автономные системы вооружений ( LAWS ).
Законов о ( LAWS ) или каких-то международных договорённостей, регламентирующих виды, производство и использование ( LAWS ) не существует. Идёт активная, крупномасштабная разработка и производство летальных автономных вооружений. Никто ни чем не связан и не ограничен.
СМИ всех развитых стран окрестили их «роботами-убийцами» и всё чаще и чаще муссируют эту тему, провоцируя воображение людей на аналогию с Терминатором . Соблазн заменить человека бортовым компьютером со способностью вести наблюдение, поиск и поражение цели без устали и нервных срывов 24 часа. 7 дней в неделю, очень велик. У робота будет сверхчеловеческая точность и рефлексы. Идеальное оружие.
Технологии производства и использования ( LAWS ) всё совершеннее и всё дешевле. И самое слабое звено в использовании робота - радиосвязь так же находится в активном поиске защиты. И её найдут. Роботы станут неуязвимыми.
И есть много причин, по которым это будет считаться ужасным явлением в войне. Это будет революция в войне. Первой революцией в войне было изобретение пороха. Второй революцией стало использование броне техники и полный отказ от кавалерии. Третьей революцией стало изобретение ядерного оружия. И на пороге четвёртая. Каждая из них была ступенью в изменении скорости и эффективности, с которой люди могли убивать своих противников.
Это будет оружие массового поражения. Да что там будет, оно уже есть. Раньше, если вы хотели причинить вред, вам нужно было иметь армию солдат, чтобы вести войну. Теперь вам понадобится всего один программист и рота операторов.
Это будет оружие ужас а. А если оно попадёт в руки террористов или государств-изгоев, которые без колебаний направят их против гражданского населения.
Это не будет более этично, чем солдаты-люди.
Сегодня мы не знаем, как создавать автономное оружие, которое соответствовало бы нормам международного гуманитарного права, и не знаем компьютерных систем, которые нельзя было бы взломать. И есть много людей, которые отвергнут любые меры предосторожности, любые нормы морали и права, которые могут быть введены, для владения этим оружием.
Это оружие дестабилизирует и без того шаткий геополитический порядок. Чтобы иметь мощную армию, потребуется лишь скромный банковский счет. Они снизят преграды на пути к войне.
В отличие от ядерного оружия, оно будет дешевым и простым в производстве.
Как и любое другое оружие массового уничтожения до него, такое как химическое, биологическое и ядерное оружие, оно должно быть запрещено!
Прежде всего, существует глубокий моральный аргумент в пользу того, что мы откажемся от существенной части нашей человечности, если передадим машинам решать, жить кому-то или умереть!