Идея создания «морального кодекса» для боевых беспилотников технически осуществима, однако стоит понимать, что правила ведения войны в первую очередь нарушает человек, а не машина. Такое мнение в беседе с RTVI высказал главный научный сотрудник Центра военно-политических исследований Дипломатической академии Вадим Козюлин.
Ранее экс-глава британской разведки GCHQ Дэвид Оманд в интервью The Guardian заявил, что беспилотники нужно программировать с учетом «морального кодекса»: по его словам, ИИ способен принимать этически более взвешенные решения, чем человек в стрессовых боевых условиях.
Козюлин согласился с тем, что технически такая задача в принципе решаема.
«Принципы понятны, основной из них: решение должен принимать человек, а не машина. Но как это осуществить? Главное предложение — чтобы человек всегда мог выключить машину, если он видит, что она совершает ошибку. Но прогресс, к сожалению, неумолим, и технология диктует другие правила, вытесняя человека из контура принятия решений», — сказал он.
Эксперт отметил, что именно вокруг этого противоречия сегодня и «ломаются все копья»: как сохранить человека в петле управления, если технологии все больше затрудняют этот процесс. По его мнению, лучше всего это понимают США.
Одно из предложений — наделить оператора правом давать разрешение беспилотнику на каждый удар, либо предоставить «красную кнопку», чтобы успеть остановить БПЛА, если что-то пошло не так.
Оманд в интервью называет это принципом «on the loop» («быть в курсе»): человек не санкционирует каждое конкретное решение, но задает параметры миссии и сохраняет надзорную функцию. По его словам, оператор сможет выставить для дрона шесть моральных переменных с уровнями приоритетности — и система будет руководствоваться ими в ходе боевого задания.
Козюлин уточнил, что этому сейчас мешает «роевая тактика» использования боевых дронов и сам принцип работы ИИ, который изначально создавался для самостоятельного принятия решений. «Технологии диктуют одно, а человек решает — принять это как должное или попытаться этому противодействовать», — подчеркнул эксперт.
Собеседник RTVI также не сомневается в том, что человек в нужный момент сможет отключить этот встроенный «моральный кодекс» у беспилотника: «Обязательно так и будет происходить». Но здесь, по словам Козюлина, важно не упустить другую сторону вопроса.
«Есть международное гуманитарное право — это право ведения войны. Женевские конвенции, протоколы к ним, где все хорошо прописано — как положено вести боевые действия, как действовать в отношении некомбатантов, гражданских лиц, медицинского персонала, раненых, пленных, шпионов. Страниц сто этих правил», — напомнил он.
Однако, продолжил Козюлин, написаны эти правила для человека и в каждом конфликте люди их нарушают. «Есть подозрение, и оно лично у меня наблюдениями и аналитикой подтверждено, что искусственный интеллект будет лучше справляться с правилами ведения войны, с соблюдением международного гуманитарного права, чем это делали люди», — заявил эксперт.
В качестве примера он привел ситуацию в секторе Газа, где ИИ определяет цели и четко выполняет указания, но окончательное решение принимает человек.
«Искусственный интеллект не виноват в данном случае, им пользуется человек, и человек принимает решение. Вот в чем проблема», — подчеркнул эксперт.
Не менее скептично настроен и директор британской организации Drone Wars UK Крис Коул: в разговоре с The Guardian он назвал позицию Оманда «столь же бессмысленной, сколь и опасной». По его словам, ИИ не способен выносить суждения — он лишь обрабатывает данные, не имея возможности, например, отличить комбатанта от мирного жителя или оценить соразмерность потерь военной выгоде.
Козюлин также сказал, что шум вокруг морали у ИИ в каком-то смысле уводит разговор в сторону от более важной темы — от того, что «человек-то сам нарушает чаще». «Конечно, это отвлечение внимания общественности от того, что люди раз за разом в каждом конфликте, которых все больше, нарушают законы войны — и происходит это не намеренно», — добавил он.
«Нашелся крайний — это искусственный интеллект. Можно обсуждать это. А на самом деле правильнее было бы обсуждать другое: как сделать так, чтобы люди не нарушали его — раз, и второе — как настроить искусственный интеллект, эти программы на основе ИИ, чтобы они тоже не нарушали. Вот вторую часть, мне кажется, сделать проще, чем первую», — резюмировал собеседник RTVI.
Борис Шибанов, Генри Достоевский