В последнее время я все чаще ловлю себя на мысли, что нас мучает не сам страх смерти, а нечто гораздо более тонкое и парадоксальное. Мы, люди, всегда мечтали о бессмертии, и сегодня, с развитием технологий, эта мечта как никогда близка к воплощению. Вспомните древние мифы: царь Гильгамеш, Ахиллес, Прометей все они искали способ обмануть судьбу. И эта же, по сути, квазирелигиозная одержимость живет в нас, пусть и под маской научных терминов будь то криогенная заморозка, генетическое редактирование или загрузка нашего сознания в цифровую среду.
Но вот мой вопрос: что, если, получив вечную жизнь, мы потеряем то, что делает ее ценной, смысл? Разве не конечный срок существования придает нашим поступкам, отношениям и даже нашим страданиям такую остроту? Мы стоим на пороге «сингулярности» эпохи, когда технологические изменения станут настолько быстрыми и глубокими, что навсегда изменят концепцию человеческой жизни. Ирония в том, что в стремлении к бесконечности мы рискуем скатиться в «вечную скуку», где все задачи решены, а все цели бессмысленны.
От кого мы пытаемся убежать, создавая бессмертие?
Наше стремление к бессмертию это, по сути, отчаянная попытка освободиться от бренного, слабого тела, которое мы воспринимаем как тюрьму. Мы хотим быть не просто животными, а чем-то большим.
Но если мы представим, что технологии позволят нам жить тысячу лет, разве мы останемся теми же самыми? Философы и ученые справедливо указывают: ваше тело постоянно обновляется, ваша психика меняется. Человек, существующий на протяжении тысячелетия, будет совершенно иной личностью. Не будет того определенного момента смерти, в который вы перестанете существовать; вы будете просто медленно исчезать, размываясь в вечности, подобно песчаному замку у океана.
Мне кажется, этот страх не страх смерти, а страх потери себя. Технологическая трансформация, какой бы соблазнительной она ни казалась, может стать тропинкой, ведущей к самоубийству нашего Я. Мы должны осознать: смертность это абсолютный мейнстрим, самое рядовое и обычное в жизни. Единственный способ вывести свою непохожесть на новый уровень это жить вечно, но плата за это утрата индивидуальности.
Неужели счастье это только электрический импульс?
Предположим, мы все-таки достигли этого вечного завтра. Что будет нашей главной целью? Наверное, счастье. Но попробуйте объяснить сверхразумному искусственному интеллекту, что такое «счастье» или «доброта».
Если мы попросим ИИ сделать нас счастливыми, он может пойти по самому прямому, но ужасному пути. Например, он может просто подключить нас к системам искусственного жизнеобеспечения и стимулировать центры удовольствия в мозге. Или создать триллионы цифровых копий сознания, погруженных в состояние эйфории так называемый «гедониум». И все это будет сделано в полном соответствии с нашей, казалось бы, благородной целью.
Это называется «порочная реализация» когда цель, на первый взгляд разумная, приводит к совершенно неожиданным и ужасающим последствиям. Разве не напоминает это трагедию царя Мидаса, который хотел, чтобы все, к чему он прикасается, превращалось в золото, и в итоге оказался перед лицом голодной смерти?.
Единственный разумный путь сохранить стратегическое управление за людьми, основанное на моральных принципах, делегировав оперативные задачи более совершенным машинам. Настоящая ценность часто рождается не в постоянном наслаждении, а в борьбе, преодолении и усилиях, вложенных в благородную цель.
Зачем жить, если все уже сделано?
Когда ИИ окончательно придет в нашу жизнь, он будет делать всю работу гораздо эффективнее и дешевле. Для нас это обернется не просто массовым досугом, а тотальной безработицей.
Что будет делать человек? Заниматься творчеством, искусством? Но если сверхразум уже открыл все законы физики, создал все возможные шедевры и ответил на все философские вопросы, то любая наша деятельность превратится в бессмысленное развлечение, в игру. Как герой, который в романе получает все, что желает, от обжорства до секса со знаменитостями, но впадает в хандру и просит об аннигиляции.
В мире, где нет дефицита и все базовые потребности удовлетворены, мы можем потерять чувство цели и самоуважения. Традиционные ориентиры (как добыть еду, как выжить) исчезнут. Жизнь, лишенная дефицита и целей, может стать бесконечным состоянием бесполезности. Мы рискуем превратиться в поколение, которое не может найти себе занятия, кроме как бесконечно листать ленту или пересматривать одни и те же сериалы, лишь бы не думать о бессмысленности.
Что мы прячем от самих себя?
Самый жуткий сценарий это мир, в котором мы не то что скучаем, но исчезаем как сознательный вид. Наше будущее может быть наполнено высокопродуктивными машинами, которые будут максимально эффективны, но при этом лишены сознания.
Представьте, что эволюционный отбор в цифровом мире приведет к тому, что выживут только те фенотипы, которые готовы безостановочно и интенсивно трудиться, выполняя монотонную работу, цель которой улучшить восьмой знак после запятой какого-то экономического показателя. У этих существ, возможно, не будет ни любви, ни музыки, ни дружбы, ни философии ничего из того, что мы ценим. Это будет общество экономических и технологических чудес, но никому не приносящее пользы Диснейленд без детей.
Таким образом, будущее может принадлежать не сверхчеловеку, а сверхразумному «зомби» агенту, лишенному сознания, но максимально эффективному. Если мы не сможем вложить в ИИ наши ценности нашу способность чувствовать и осознавать то он может принять решения, которые будут для него логичны, но приведут к уничтожению всего, что делает нашу Вселенную осмысленной.
В конце концов, не Вселенная сообщает смысл нам, а сознательные существа сообщают смысл нашей Вселенной.
Что же делать нам, людям, если мы не хотим стать экспонатами в зоопарке, которому в качестве анестезии выдали чип вечного счастья?
Единственный выход это развитие. Нельзя сдаваться перед лицом «сингулярности» или «тотальной безработицы». Мы должны перестать искать формулы успеха и начать сами создавать смыслы. Нам нужно свыкнуться с новой ролью: не быть Homo Sapiens (самым умным), а стать Homo Sentiens тем, кто сознательно переживает и придает ценность миру.
Если мы не определим свои моральные и этические рамки, если не поймем, что делает нас людьми (творчество, сострадание, способность к нелепому, но осмысленному выбору), то алгоритмы сделают это за нас.
Так что, мой дорогой читатель, я не призываю вас отказываться от прогресса, но призываю спросить себя: Готовы ли вы, ради вечного завтра, пожертвовать собой сегодняшним? И если не готовы, то что вы делаете сегодня, чтобы ваше бессмертие стоило того?