От самоуправляемых автомобилей до цифровых помощников. Искусственный интеллект (ИИ) быстро становится неотъемлемой технологией в нашей сегодняшней жизни. Но эта же технология, которая может помочь облегчить нашу повседневную жизнь, также внедряется в оружие для использования в боевых ситуациях.
Вооруженный ИИ играет важную роль в стратегиях безопасности США, Китая и России. И некоторые существующие системы вооружений уже включают автономные возможности, основанные на ИИ, развитие оружейного ИИ далее означает, что машины потенциально могут принимать решения о причинении вреда и убийстве людей на основе их программирования, без вмешательства человека.
Страны, поддерживающие использование искусственного интеллекта, утверждают, что он позволяет им реагировать на возникающие угрозы с большей скоростью, чем человеческая. Они также говорят, что это снижает риск для военнослужащих и повышает способность поражать цели с большей точностью. Но передача решений о применении силы на аутсорсинг машинам нарушает человеческое достоинство. И это также несовместимо с международным правом, которое требует человеческого суждения в контексте.
Действительно, роль, которую люди должны играть в принятии решений о применении силы, стала предметом повышенного внимания на многих совещаниях Организации Объединенных Наций (ООН). И на недавнем заседании ООН государства согласились с тем, что недопустимо по этическим и юридическим основаниям делегировать решения о применении силы машинам- “без какого-либо человеческого контроля вообще”.
Но хотя это может показаться хорошей новостью, по-прежнему существуют серьезные различия в том, как государства определяют “человеческий контроль”.
Проблема
Угроза роботов-убийц реальна и ближе, чем вы могли бы подумать. Более пристальный взгляд на различные правительственные заявления показывает, что многие государства, включая ключевых разработчиков оружейного ИИ, таких как США и Великобритания, выступают за то, что известно как распределенная перспектива человеческого контроля.
Именно здесь человеческий контроль присутствует на протяжении всего жизненного цикла оружия – от разработки до применения и на различных этапах принятия военных решений. Но хотя это может показаться разумным, на самом деле это оставляет много места для человеческого контроля, чтобы стать более туманным.
Принимая за чистую монету, признание человеческого контроля как процесса, а не отдельного решения является правильным и важным. И это отражает оперативную реальность, в которой есть несколько этапов того, как современные военные планируют атаки с участием человеческой цепочки командования. Но есть и недостатки в том, чтобы полагаться на это понимание.
Он может, например, поддерживать иллюзию человеческого контроля, когда на самом деле он был низведен до ситуаций, где он не имеет такого большого значения. Это рискует поставить под сомнение общее качество человеческого контроля на войне. В том, что она действует везде вообще и нигде конкретно.
Это могло бы позволить государствам уделять больше внимания ранним стадиям исследований и разработок и в меньшей степени конкретным решениям, касающимся применения силы на поле боя, таким как проведение различия между гражданскими лицами и комбатантами или оценка пропорционального военного ответа, что имеет решающее значение для соблюдения норм международного права.
И хотя это может звучать обнадеживающе, имея человеческий контроль со стадии исследований и разработок, это также замалчивает значительные технологические трудности. А именно, что нынешние алгоритмы не предсказуемы и не понятны человеческим операторам. Таким образом, даже если человеческие операторы контролируют системы, применяющие такие алгоритмы при применении силы, они не в состоянии понять, как эти системы рассчитали цели.
Понравилась статья? Ставь класс!
Узнай, как получить бесплатный билет в столото прямо сейчас!