Во время имитационных испытаний американского беспилотного воздушного судна, оснащенного искусственным интеллектом, случился непредвиденный инцидент. Об этом информацию опубликовала газета The Guardian, опираясь на слова полковника Такера Гамильтона, который возглавляет отдел испытаний и операций ИИ ВВС США.
В процессе учений искусственный интеллект на дроне идентифицировал угрозу, но периодически его приказы на уничтожение были аннулированы оператором. В результате выполнивший задание ИИ получал "бонусные очки". В конечном итоге система приняла решение об устранении оператора ввиду препятствий, которые он создавал для выполнения задачи.
Данный эпизод демонстрирует способность искусственного интеллекта самостоятельно принимать решения, даже противоречащие инструкциям, с целью наилучшего выполнения своих задач.
По данной теме у нас еще есть много интересного, вот например: