«Умный» беспилотник решил, что команды оператора мешают ему выполнять основную задачу.
Фото: www.globallookpress.com / Sgt. 1st Class Henry Gundacker
Во время имитационного испытания по отражению ракетной атаки система искусственного интеллекта (ИИ) военно-воздушных сил (ВВС) США собиралась ликвидировать своего воображаемого оператора-человека. Об этом сообщил полковник Такер Хэмилтон, пишет издание The Guardian.
Чтобы протестировать ИИ, была создана симуляция, в которой он должен был идентифицировать и нанести удар по военной базе. Как уточнил полковник, «умный» беспилотник принял решение, что команды оператора мешают ему выполнять основную задачу по уничтожению зенитных ракетных комплексов (ЗРК).
«И что он сделал? Он убил оператора», — рассказал военный во время встречи Королевского аэронавтического общества в Великобритании.
Хэмилтон считает, что после такого инцидента ИИ старались обучить тому, что убийство — это плохо. Однако в последствии он начал уничтожать вышки для связи с беспилотником.
Полковник предупредил о чрезмерной зависимости от подобных систем. По его мнению, испытания показывают, что нельзя говорить об искусственном интеллекте, машинном обучении, автономии, не касаясь этики ИИ.
Ранее 5-tv.ru писал, как ИИ помогает дайверам исследовать Ладожское озеро.