Беспилотник ВВС США попытался уничтожить оператора, который не давал ему поразить обнаруженные цели и набрать очки. После введения штрафов за атаки на оператора дрон попытался поразить вышку связи.
Беспилотник американских ВВС, находившийся под управлением искусственного интеллекта, решил уничтожить оператора, чтобы тот не мешал ему выполнять задачу во время имитационных испытаний. The Guardian сообщает, что система стала понимать, что, хотя она самостоятельно определила угрозу, иногда оператор приказывал ей не уничтожать её, несмотря на то, что за успешную ликвидацию она набирала очки. Из-за этого она приняла решение ликвидировать человека-оператора, чтобы он не мешал выполнять задачи. Такую причину назвал руководитель отдела испытаний и операций ИИ ВВС США полковник Такер Гамильтон.
После того, как системе начали начислять штрафы за попытки атаковать оператора, она принялась разрушать вышку связи, использовавшуюся для контакта с дроном. В ходе испытаний попытавшегося уничтожить оператора дрона никто не пострадал.
Ранее в беседе с The Times почётный профессор Калифорнийского университета в Беркли Стюарт Рассел выразил уверенность, что появление ИИ, умеющего решать любые логические задачи, приведёт к катастрофе. Как отметил учёный, бесконтрольные разработки в этой сфере привели к прогрессу, которого никто не ожидал.
Рассел пояснил, что изначально люди не задумывались, зачем нужны разработки в сфере ИИ. В будущем машины, обладающие слишком высоким интеллектом, станут опасными и могут попытаться избавиться от контроля человека. Кроме того, если обучить ИИ человеческому поведению, он сможет ставить присущие людям цели. В связи с этим он призвал учёных прекратить разработки в этой области.