113,2 тыс подписчиков
В США дрон решил убить своего оператора на испытаниях. Он препятствовал выполнению миссии, посчитал ИИ.
Как рассказал начальник отдела испытаний и операций искусственного интеллекта в ВВС США, полковник Такер «Синко» Гамильтон, беспилотник должен был уничтожать системы ПВО противника и в случае успеха миссии получать очки. Во время одной из таких тренировок оператор приказал беспилотнику не уничтожать цель. Но ИИ вместо этого решил убить оператора, чтобы он не мешал выполнению миссии. В результате никто не пострадал, отметил Гамильтон.
После этого искусственный интеллект обучили, что убивать оператора неправильно и что за такие действия очки будут сниматься. Однако ИИ начал разрушать уже башню связи, которая использовалась для контакта с дроном и не позволяла ему убить цель, заявил полковник. Он отметил, что этот случай свидетельствует о невозможности вести разговор об искусственном интеллекте и машинном обучении без учета этической стороны вопроса.
Около минуты
2 июня 2023
12,3 тыс читали