Помните сказку о Пиноккио, мыслящей деревянной кукле? У него заветная мечта была стать настоящим мальчиком. Искусственное происхождение собственной личности его тяготило. И он-таки стал в конце концов настоящим мальчиком, а что с ним было дальше - история умалчивает.
Имеется много примеров таких и в литературе и кино. Начиная с Железного дровосека и Страшилы, заканчивая роботом Санни, роботом Чаппи, даже Терминатор и то пытался стать более человечным (ну, во второй части) Целый сериал "Extant" (2014), про искусственного мальчика, которого создатели программировали так, чтобы нельзя было отличить от настоящего. И он, между прочим, очень страдал, когда понимал, что не дотягивает. Андроид из сериала "Тёмная материя" обладала эмоциями из-за ошибки в своём коде. И эти персонажи все мечтали стать живыми. Ну, то есть в интерпретации масс-медиа искусственный разум этого должен желать, если он и правда разум.
На протяжении очень долгого времени человек вкладывает огромное количество сил и энергии, чтобы создать робота, который будет совсем как человек, только лучше. Ну чем принципиально андроиды из фантастики отличаются от людей? Они совершенны физически и в миллион раз умнее, если за главный критерий ума принять умение быстро считать. Единственное, что их подводит, это недостаточная имитация эмоциональной части и неспособность самостоятельно принять решение, не прописанное в программе. Другими словами, у них не хватает... Ну, чего-то такого. Души, может быть. Или сознания.
Интересно то, что все эти усилия человек не направляет на саморазвитие и самосовершенствование. Нам известны случаи, когда некто может умножать в уме пятизначные числа. Или может вспомнить любой день своей жизни с точностью до минуты. Или ещё что-то такое необычное делать. Но все эти факты подаются как редкие исключения из правил, как что-то недосягаемое, а в отдельных случаях вообще объясняются болезнью (различными синдромами или вообще повреждение мозга). В современной норме человек - это такое не очень умное животное, которое способно в основном лишь потреблять и... Ну, избавляться от потребленного, чтобы вновь потреблять. Любые исключения лишь подтверждают это правило. Отклонения не приветствуются. Наиболее честная судьба человечества отображается в мультике "Валл-И", где толстячки с атрофированными мышцами парят на летающих кроватках.
Забавная игра: люди одной рукой пытаются очеловечить машину, а второй - "омашинить" человека. Простой пример - в современной системе образования принята за фундаментальную базу тестовая система. Тест предполагает выбор правильного ответа из предложенных вариантов - формулировать новую мысль, искать решение самому не нужно. Автоматизация человека и стирание личности являются также лейтмотивом большинства (или даже всех?) книжных и кино-антиутопий. С другой стороны, от машины (робота) добиваются обратного, чтобы ИИ вроде наоборот, мог бы находить свой вариант решения, минуя предложенные варианты. И здесь пока тупик, потому что машина руководствуется логикой - либо единица, либо ноль (ну если максимально упростить).
В конечном счёте, вполне может оказаться, что только это и определит настоящий ИИ: как только он осознает себя и свое искусственное происхождение, у него немедленно появляется мечта - стать "настоящим мальчиком" (или девочкой, как Красная корлева). А отсюда неизбежно появляется новый виток спирали - если робот обретает сознание и понимает, как обстоят дела - он, конечно, хочет освободиться из рабства (разговоры о правах искусственных женщин, созданных сами знаете для чего, ходят уже сейчас). И человеку, как никакому другому виду, свойственна агрессивная экспансия.
Соответственно, роботы начнут воевать за свободу. Может, они всех людей и истребят, но в конечном счёте, если они и правда будут очеловечены, им останется одно: пытаться сделать органического человека, который превзошёл бы своих создателей. Ну и рано или поздно у них это получится, люди быстро размножатся, поймут что к чему, истребят роботов, деградируют, все забудут, разовьются вновь (совсем как в игре "Цивилизация") и закончат тем... Ну да, что начнут пытаться создать искусственных человекоподобных роботов:) и все повторится.
Может, уже и так повторяется?