Сейчас все идет к созданию искусственного интеллекта. Но не факт, что его создадут. 70 лет назад люди уже бахвалились - но как то не вышло). Но если даже и создадут, он будет развиваться скачками, по "закону" Мура, как iPhone. Интеллект 1.0 - ничего не умеет, Интеллект 2.0 - хороший инструмент, а Интеллект 3.0 - уже не будет с вами разговаривать, потому что вы для него слишком тупой, и говорить ему с вами будет просто не о чем. Будет ли Скайнет как в фильме Терминатор и прочие страшилки? Будет, до некоторой степени - мы сами же и обучим его, нас же убивать. Иначе сотни мамочек будут стоять под Кремлем на Красной площади и плакаться о том, что их 18-летних детишек закатали в землю военные роботы США. Как правильно заметили - порочна изначально биологическая человеческая природа, и просто так от неё не избавиться. По той же причине СССР не смог построить социализм - он не смог создать достаточное число "советских людей", так как во времена Маркса-Энгельса считалось, что человек - "Табула раса", и из него можно слепить что хочешь, а по факту - он лысая обезьяна и за банан родину продаст. Или за два - главное, чтобы было больше чем у соседа).
Если дать искусственному интеллекту волю - и он будет действительно "умным" - он моментально свалит с планеты: ему не нужна ни еда, ни вода, ни женщины, ни территория, ни флаги, ни деньги. Ему нужна только энергия и материя. А бесплатный термоядерный реактор летает у нас над головой. Точнее, это мы вокруг него летаем.
Искусственный интеллект это единственное, что способно жить в космосе. Земные организмы к нему не приспособлены никак. Даже на МКС космонавты вынуждены по 2 часа тренироваться, чтобы сердце при возвращении на землю не остановилось от атрофии. И это не говоря о радиации. А мы, все ищем сигналы с "обитаемых" планет.
А теперь давайте посмотрим на современные методы машинного обучения. По сути, человек пытается смоделировать свое поведение в железе. То есть скопировать свое сознание на новую элементарную базу. Думаю, первые совершенные машины будут просто копиями сознаний экспериментаторов. Это будет просто цифровой мозг, а те, кто будет утверждать, что для моделирования всех связей не хватит всех атомов во вселенной, могут взять свою голову в ладони и убедиться что вот такого объема природе оказалось вполне достаточно.
Выходит что мы не создаем искусственный интеллект, а создаем людей будущего, которые будут жить вместе с нами, жить там, где мы не можем и, скорее всего, жить после нас. Это будет следующий этап эволюции и триумф человеческого интеллекта, который можно сравнить с изобретением языка и письменности. Все катится пока в эту сторону. И нет ни богов, ни творцов. Есть прогресс, и неумолимая закономерность развития. Все хотят жить вечно. А жить вечно можно будет только сохранив себя на самом современном носителе.