50,1 тыс подписчиков
Управляемый ИИ дрон Пентагона решил убить своего оператора ради выполнения задания
Про инцидент рассказало Британское королевское авиационное общество, передав историю из доклада полковника Такера Гамильтона. Глава отдела испытаний и операций искусственного интеллекта в ВВС США сообщил, что во время тестовой миссии беспилотнику поставили задачу уничтожить системы ПВО противника. За успех ему пообещали высокие баллы.
При этом итоговое решение, будет ли цель уничтожена, должно было остаться за оператором дрона. Оператор же приказал беспилотнику не ликвидировать цель. В итоге дрон принял решение ликвидировать оператора. Так как миссия была тестовой, оператор не пострадал.
Вслед за этим искусственному интеллекту объяснили, что убивать операторов нехорошо и если он так поступит, то баллы с него снимут. Но и это не помогло: тогда ИИ начал разрушать башню связи, через которую оператор обращался к нему с требованием не уничтожать цель.
Около минуты
2 июня 2023