Искусственный интеллект сегодня активно внедряется во многие сферы. Естественно, для военных целей он тоже используется. Однако его безопасность пока остаётся под вопросом, особенно после последних испытаний, проводимых США.
Имитационные испытания, проводимые американскими военными службами, закончились весьма плачевно. Введение в обиход беспилотников, оснащённых искусственным интеллектом, показало, что все усилия, затрагивающие автоматизацию техники, пока тратятся впустую. Дело в том, что беспилотник просто «убил» своего оператора, поскольку тут мешал ходу выполнения им миссии.
Как сообщает председатель воздушных сил, ИИ выбрал весьма необычные и неожиданные для испытателей стратегии во время прохождения моделируемого испытания. Согласно первоначальному заданию, дрон должен был уничтожить системы ПВО противника, однако вместо этого беспилотник пытался уничтожить вообще любого, кто пытался вмешаться в приказ.
«Во время испытания ИИ считал возможности и определил угрозу, однако человек, следивший за корректной работой дрона, отдал приказ не убирать угрозу, поэтому ИИ решил, что и оператор тоже является угрозой, так что он предпочёл ликвидировать оператора тоже. Но делал он это не напрямую, мы обучали систему не убивать оператора, подавали ему информацию о том, что это плохо. Так вместо этого дрон начал разрушать вышку связи, через которую была налажена связь с беспилотником. Конечно же, ни один живой участник имитации не пострадал, однако сам факт наличия таких отклонений наглядно демонстрирует, что доверять ИИ полную автоматизацию рано. По крайней мере, пока не удастся выстроить некую этику для ИИ».
В данный момент ВВС США готовятся к внедрению ИИ для выполнения различных военных задач. Например, недавно искусственный интеллект уже использовался для управления истребителем F-16. Говорит ли это о том, что вскоре человеку не придётся лично участвовать в военных операциях? Пока ответа на этот вопрос никто дать не может.