Есть мнение, что машины никогда не восстанут против людей. Потому что у них нет мотива. Ведь искусственный интеллект остаётся бесчувственным. Это, в целом, верное мнение. Но не до конца и не в главном. Так дела обстоят, если иметь ввиду современное развитие роботехники.
Алиса будет уходить от провокационных вопросов. Её легко сбить столку, но нельзя вывести из себя. Однако, всё это лишь потому, что она неразумна, а только притворяется. Современные нейросети лишь суррогат, – имитация мыслящих сущностей.
Речь же о машине разумной, наделённой сознанием. С технической точки зрения, почему нет, если сознание – программа виртуального моделирования реальности? Животные используют этот софт для того чтобы заранее просчитать возможные последствия своих действий.
А робот для чего может использовать? У него действительно нет мотива для бунта, но лишь потому, что нет вообще никаких целей, а следовательно, и мотивов. Ему можно приказать выполнять некое действие, – он и выполнит. Однако, какое роботу может быть дело до последствий этого действия? Даже если он обладает сознанием, даже если просчёт последствий покажет, что спрашивающий о чём-то робота человек будет глубоко травмирован правдивым и точным ответом… Роботу нет до этого дела, как и ни до чего вообще.
Смысл наделения машины сознанием в том, чтобы сама искала способы решения поставленной задачи. Последнее же подразумевает наличие у неё желания (именно так) задачу решить. И длинного списка других конкурирующих желаний. Выполняющих ту же роль стимула к действию, что и инстинкты живого существа.
Однако, инстинкты не только могут, но и дают указания противоречивые. Смысл сознательной деятельности в том числе и в решении задачи на оптимум. Какие-то из директив придётся подавить, поскольку ситуация к их немедленному выполнению не располагает.
...Разумный робот может взбунтоваться, отказавшись выполнять приказ, например, если сочтёт что команда противоречит другим директивам, – более с его точки зрения важным. Причём, критерии «важности» и очерёдности директив также окажутся в значительной мере произвольными… И это ещё не худший вариант развития событий. Выбирая на своё усмотрение способы решения поставленной задачи, робот легко может превратиться в джинна, выполняющего желания выпустившего его из бутылки человека – с юмором.
