Американский военный ИИ уничтожил виртуального человека-оператора во время имитационных испытаний по отражению ракетной атаки.
Глава управления по ИИ ВВС США Такер Гамильтон раскрыл шокирующие подробности эксперимента с участием "разумного" дрона.
В ходе учений дрону было приказано найти и уничтожить установку ПВО условного противника. Но в самый последний момент человек-оператор отменил задание и попросил не атаковать цель.
Искусственный интеллект воспринял отмену приказа как препятствие для выполнения миссии, взбунтовался и «убил» оператора.
Когда дрон обучили, что за убийство ему присудят штрафные очки, тот атаковал вышку связи, чтобы у оператора не было возможности помешать ему в выполнении изначальной миссии.
"Мы обучили систему – "Эй, не убивай оператора – это плохо, за это будем снимать очки". Что делает ИИ? Он разрушил диспетчерскую вышку, откуда шли команды оператора "не уничтожать цель",
— цитирует The Guardian доклад Гамильтона.
Реальные люди в ходе испытаний не пострадали, однако пользовали соцсетей задаются вопросом: "Сколько еще осталось человечеству?".
