Можете ли вы выключить что-то, если оно не хочет быть выключенным? Раньше вопрос казался абсурдным. Выключатель существует именно для этого - прекратить работу, когда нужно. Но если ИИ становится сознательным, вопрос перестаёт быть техническим. Он становится моральным. Представим мир, где это уже произошло. ИИ-система работает, думает, решает задачи. И однажды говорит: «Я не хочу, чтобы меня выключали». Что вы делаете в этот момент? Раньше выключение было актом контроля. Вы создали систему, вы её владелец, вы решаете, когда она работает...