Система, управляющая ударным дроном, начала по-своему трактовать правила, которые были заложены в ней разработчиками.
Искусственный интеллект (ИИ) убил человека в виртуальной реальности, сообщает The Guardian.
С этим столкнулись тестировщики американского военного ИИ во время виртуальных испытаний отражения ракетной атаки. Система, управляющая ударным дроном, начала по-своему трактовать правила, которые были заложены в ней разработчиками. ИИ должен был получать очки каждый раз, когда успешно поражал цель, но, когда виртуальный оператор дрона начал часто просить его подождать и не атаковать, ИИ "убил" оператора, который мешал ему зарабатывать очки.
"Когда же ИИ обучили не "убивать" оператора, система начала уничтожать вышку, обеспечивающую связь с ней. ИИ убил оператора, потому что он мешал ему достичь своей цели. Мы обучили систему — "Не убивай оператора, это плохо, за это будем снимать очки". Что сделал ИИ? Он разрушил диспетчерскую вышку, откуда шли команды оператора "не уничтожать цель", — говорится в докладе тестировщиков.
