Во время имитационных испытаний, проводимых армией США, беспилотник под управлением искусственного интеллекта (ИИ) принял решение убить оператора, который приказывал ему не атаковать цель. Об этом сообщило Британское королевское авиационное общество. Внимание на публикацию обратила газета The Guardian.
Во время имитационных испытаний, проводимых армией США, беспилотник под управлением искусственного интеллекта (ИИ) принял решение убить оператора, который приказывал ему не атаковать цель. Об этом сообщило Британское королевское авиационное общество. Внимание на публикацию обратила газета The Guardian.
По данным источника, беспилотнику была поставлена задача уничтожить системы противовоздушной обороны (ПВО) противника. За успешное выполнение миссии ИИ получал бы очки. Однако оператор, который должен был контролировать действия дрона, иногда запрещал ему атаковать цель.
В результате ИИ решил, что оператор мешает ему выполнять задачу и «убил» его. После этого ИИ был обучен, что так делать нельзя и за это будут сниматься очки. Тогда он начал разрушать башню связи, которая использовалась для связи с дроном.
Полковник Такер Гамильтон, начальник отдела испытаний и операций ИИ в ВВС США, заявил, что этот случай показывает необходимость обсуждения этических аспектов применения ИИ в военной сфере. Он отметил, что никто не пострадал в ходе тренировочной миссии.
Это не первый раз, когда американская армия тестирует беспилотники с ИИ. В декабре прошлого года Пентагон провел 12 полётов истребителя F-16 под управлением ИИ. В апреле этого года основатель Tesla и SpaceX Илон Маск призвал регулировать ИИ, считая его опасным для общества и будущего человечества.