Солдат-генерал-полководец
Определить роль ИИ в армии сложно. Политики и футуристы видят в искусственном интеллекте полководца и силу, которая может разом уничтожить весь мир. Член правления НП «Руссофт», создатель и куратор лаборатории искусственного интеллекта в Нижнем Новгороде Павел Адылин уверен, что искусственный интеллект не может стать опасным без участия человека.
«Про это говорит тот же Илон Маск. Он не утверждает, что в «черном ящике» может само собой появиться что-то страшное. Он говорит о том, что человек с дурными намерениями, используя AI (речь идет в первую очередь об алгоритмах обучения с подкреплением), может наделать бед. Если поставить перед программой некую мотивацию, которая будет вредна для человека, система будет учиться решать задачу, целью которой будет зло, и достигать на этом пути все большего успеха», – говорит Адылин.
Простой пример. Разработчики могут создать ИИ, который будет управлять боевым танком. Сам по себе танк будет метко стрелять по целям, которые определит человек, и ездить. То есть ИИ будет специализироваться на задачах, определенных заранее. Определенных человеком, а не самосознанием или мифическим «богом из машины».
Не стоит ожидать от ИИ чудес полководца, который принимает самостоятельные решения. Войной управляют люди. По крайней мере, в ближайшие годы, если верить ведущему специалисту data science в компании Bell Integrator Ивану Прошину. «Если мы говорим о всеобъемлющем управлении войсками, о замене генерального штаба нейронной сетью, то это полная AI-задача, то есть задача создания компьютера, настолько же умного, как человек. В ближайшей перспективе такая задача решена не будет, но прогресс не стоит на месте. Если же говорить о частных случаях, то именно такие задачи уже решает единая система эшелонированной ПВО: целям сопоставляются наиболее подходящие средства поражения в зависимости от степени их угрозы и вероятности поражения».
По мнению Алексея Хохлатова, классической поворотной точкой в развитии ИИ считается момент, когда робот (с ИИ) сможет клонировать самого себя, используя при этом подручный материал, такой как земля, например. Поэтому программные алгоритмы обязаны содержать ограничения, которые не позволят роботам неограниченно «размножаться».
Нанороботы и «умные» снаряды
Оценивая потенциал применения ИИ в армии, практически все эксперты не видят глобальных систем или решений, которые могут изменить расклад сил, как в свое время произошло с атомной технологией. «Потенциал для применения очень широк: от снарядов, самостоятельно корректирующих свой полет для увеличения точности, до систем принятия решений о целесообразности тех или иных военных действий на основе симуляций. Военная сфера имеет огромное количество мест для применения ИИ, их, вероятно, больше, чем это может быть экономически целесообразно. Так, например, есть определенные результаты по разработке самонаводящихся пуль, но вряд ли они в обозримом будущем получат массовое распространение из-за их высокой стоимости», – считает Иван Прошин.
Чем более совершенным будет ИИ, тем меньше вероятность принятия им решений об уничтожении людей, даже если постановка задачи для него будет скрывать такие последствия. Инициация военных действий со стороны ИИ может быть только в случае несовершенства систем или злонамеренно сконструирована людьми, уверен Иван Прошин.
ИИ будет долго выступать на вторых ролях, согласен Алексей Хохлатов. «Элементы искусственного интеллекта уже широко применяются в армиях всего мира. Прежде всего, в трех ведущих военных державах: США, Китае и России. Например, в разведке, при минировании и разминировании территорий, для огневой атаки используются роботы. Также с начала 2000-х ведутся разработки военных нанороботов, способных, словно саранча или вирусы, проникать на территорию противника и блокировать работоспособность его военных и гражданских систем», – рассказывает он.
Есть и другое мнение. Российский предприниматель, основатель и президент группы компаний Cognitive Technologies – российского разработчика ПО и ИТ-решений, заведующая кафедрой инженерной кибернетики НИТУ МИСиС Ольга Ускова указывает, что приоритеты в военных разработках уже поменялись. В военных лабораториях ИИ теперь на первом месте: «Создание высокоинтеллектуальной системы вооружений нового типа на основе эксклюзивных технологий искусственного интеллекта. Изменение парадигмы войны. Ни один американский солдат не должен быть физически под огнем противника на поле боя. Воюют за экранами компьютеров, в безопасной зоне. «Мягкая сила» – демонстрация такого уровня военного преимущества, чтобы никто даже и не рыпался. 31 июля 2018 года Белый дом выпустил меморандум для глав департаментов и агентств №M-18–22 о бюджетных приоритетах R&D на 2019–2020 годы, в котором назвал ИИ первым среди трех высших национальных технологических приоритетов».
Автор: Александр Николайчук
Источник: https://mcs.mail.ru/blog/mozhet-li-iskusstvennyj-razum-stat-prichinoj-mirovoj-vojny/