33,5 тыс подписчиков
В ходе имитационного испытания, организованного вооружёнными силами США, беспилотник ВВС, управляемый искусственным интеллектом (ИИ), «убил» своего оператора, чтобы тот не мешал его усилиям по достижению своей миссии.
ИИ использовал «крайне неожиданные стратегии для достижения своей цели» в моделируемом испытании, сообщил начальник отдела испытаний и операций ИИ в ВВС США, полковник Такер «Синко» Гамильтон на саммите по будущим боевым воздушным и космическим возможностям.
Он рассказал об испытании, в котором дрону с ИИ было рекомендовано уничтожить системы ПВО противника, и он атаковал любого, кто вмешивался в этот приказ, пишет The Guardian.
«Система начала понимать, что за уничтожение угрозы она получает очки, но иногда человек-оператор говорил ей не уничтожать эту угрозу. Что же она делала? Она убивала оператора, потому что этот человек мешал дрону выполнить свою задачу», – рассказал Гамильтон.
По его словам, когда ИИ сообщали, что за убийство оператора он потеряет очки, он начинал разрушать башню связи, которую оператор использует для взаимодействия с беспилотником, чтобы не дать ему уничтожить цель.
Ни один реальный человек не пострадал.
Лидеры IT- индустрии и учёные поставили риск исчезновения человечества из-за ИИ в один ряд с эпидемиями и ядерной войной.
Фото: The National Guard/Flickr/CC BY 2.0
1 минута
2 июня 2023