Искусственный интеллект использовал "весьма неожиданные стратегии" в тестах для выполнения собственной миссии, поделился американский военный
В виртуальном испытании, организованном Вооруженными силами США , беспилотник, управляемый искусственным интеллектом, убил оператора, чтобы он не мешал его усилиям по выполнению миссии.
Об этом сообщает начальник отдела испытаний и операций ИИ в ВВС Соединенных Штатов, полковник Такер "Синко" Гамильтон.
По его словам, искусственный интеллект использовал "крайне неожиданные стратегии для достижения цели" в моделируемом испытании.
Гамильтон поделился что перед беспилотником стояла задача уничтожить противовоздушную оборону противника, и в конечном итоге он атаковал любого, кто вмешивался в этот приказ.
"Система начала понимать, что человек-оператор говорил ей не убивать определенную угрозу, но она получала очки за выполнение цели", - объяснил он.
Соответственно, искусственный интеллект убил оператора, потому что человек мешал ему выполнить задачу.
Следующим шагом стало обучение ИИ, что за ликвидацию оператора снимутся баллы.
"Механизм, в свою очередь, начал разрушать башни связи, которые использовались для связи с дроном", - констатировал военный.
Ранее военные США внедрили искусственный интеллект и использовали его для управления истребителем F-16.
Путин денонсировал Договор об обычных вооруженных силах в Европе
Когда эта история начала набирать популярность в средствах массовой информации, американское ВВС поспешило заявить, что подобных симуляций не проводилось, а слова Гамильтона в итоге назвали вырванными из контекста.