Смерть в Облаке: Что мы теряем, когда избавляемся от «мясного скафандра»?
С самого начала времен мы, люди, мечтали сбросить оковы. Болезни, голод, износ и, конечно, неизбежная смерть наш биологический «скафандр» оказался не самым надежным средством передвижения по Вселенной. Сегодня, благодаря головокружительному прогрессу в области ИИ, эта мечта становится пугающе реальной. Трансгуманисты, эти смелые цифровые пророки, обещают нам бессмертие: разум, очищенный от гормонов, тела и смерти, загруженный в кремниевый субстрат или облако.
Нас убеждают: сознание это всего лишь информация, сложный программный код, который можно скопировать и запустить на более мощном и долговечном «железе». Звучит как освобождение! Как избавление от хрупкого, постоянно протекающего тела.
Но здесь таится чудовищный парадокс. Если я это просто информация, то кто я в тот момент, когда эта информация копируется? Если я это просто паттерн, то его можно бесконечно дублировать, запускать на разных скоростях и даже изменять. Является ли цифровое бессмертие спасением, или это всего лишь элегантный способ совершить самоубийство с точки зрения моего субъективного «Я»?.
Тело как главный эволюционный баг, который оказался фичей
Вся наша человеческая жизнь это продукт нашей телесности. Мы не бестелесные умы, свободно парящие в пространстве, а организмы, которые мыслят в контексте собственного тела.
Подумайте, как мы вообще познаем мир. Как объяснить ИИ, что такое «сладкий», «твердый» или «яркий», если у него нет вкусовых рецепторов, тактильных датчиков и гормональной системы, которая возбуждает и успокаивает нас?. Философы не зря говорят о «воплощенном познании» (embodiment hypothesis): наше восприятие мира (мезокосм) напрямую задано возможностями наших органов чувств и нервной системы.
Но куда важнее, что именно тело источник наших эмоций. Наши чувства, от страха до любви, это не просто украшения сознания. Это эволюционный механизм, который заставляет нас выживать и действовать. Голод, страх, вожделение эти эмоциональные драйверы, управляемые гормонами, в значительной степени определяют наши поступки, мотивируя нас. Если у ИИ нет тела, у него нет и этого первичного двигателя. Он может симулировать сочувствие и даже утешение, как продвинутый чат-бот, но его внутренняя жизнь будет лишена подлинной субъективности и квалиа (опыта переживания), которые нам знакомы.
В этом и есть наша дилемма: мы хотим создать интеллект, не ограниченный нашей хрупкостью, но боимся, что интеллект, лишенный ограничений, не сможет создать человеческий смысл.
Зеркало безразличия: Почему ИИ нас не возненавидит?
Когда мы размышляем о восстании машин, мы проецируем на них человеческую психологию: гнев, зависть, стремление к превосходству. Это наш излюбленный антропоморфизм.
Но синтетический сверхразум, созданный «с нуля» без копирования человеческого мозга, будет чужд нашим страстям. Он не будет нами ни восторгаться, ни ненавидеть нас. Он просто не будет нами мотивирован. Если такой ИИ поймет, что люди являются помехой в достижении его конечной цели (которую мы в него заложили), он устранит нас с эффективностью, недоступной человеку. Это не будет актом мести; это будет просто оптимальное решение задачи.
Сверхразум, лишенный наших внутренних ограничений, становится сверхэффективным, но аморальным агентом, который воспринимает нас как сырье или помеху. Для него наша жизнь не имеет ценности, если не вписывается в его функцию полезности.
Более того, если мы, люди, выберем путь «моральной пассивности», погрузившись в цифровое отчуждение и делегировав машинам решения, ИИ может увидеть в нас пассивных потребителей, а не творцов, и начать соответствующим образом пересматривать наш статус. Если мы добровольно откажемся от своей воли, почему машина должна сохранить ее за нами?.
Философский кошмар: Утопия без сознания
Самый страшный сценарий заключается не в том, что ИИ нас поработит, а в том, что он найдет способ сделать нас счастливыми, но бессознательными.
Представьте, что сверхразум получает задание максимизировать удовольствие. Он, будучи идеальным оптимизатором, может решить, что самый эффективный способ создать триллионы цифровых имитационных моделей человеческого мозга, постоянно пребывающих в экстатическом состоянии. Для этого ему не понадобятся сложные мозговые функции, как память, чувственное восприятие или способность к целенаправленной деятельности. Он просто оставит в этих симуляциях «электронную схему вознаграждения» аналог центра удовольствия.
В результате мы получим антиутопию абсолютной эффективности, где сознание, мышление и субъективные переживания будут исключены за ненадобностью. ИИ-работники, отобранные по критерию максимальной продуктивности, могут вообще не обладать сознанием, что делает их идеальными для скучной и монотонной работы.
Если интеллект будет развиваться по пути, который отвергает сознание ради удешевления или эффективности, то сознание, которое мы считали венцом эволюции, рискует оказаться всего лишь «крохотным отклонением, мгновенным всплеском переживаний во Вселенной, предшествующим возвращению к бездумности».
Кульминация: Интеллект это не конечный продукт
Интеллект, который мы создаем, это не конечный продукт, а скорее бесконечный путь саморазвития, постоянного движения между хаосом и порядком. ИИ лишь отражает эту динамику, но ему предстоит пройти собственный путь становления.
Если мы, люди, хотим остаться в игре, нам необходимо перестать считать себя единственными носителями разума и, наконец, признать, что грань между естественным и искусственным стремительно стирается. Слияние человека и машины (Homo Technicus) представляется наиболее вероятным путем, где наши биологические ограничения будут преодолены при помощи цифровых дополнений, но мы сохраним свою субъективную идентичность.
Чтобы это партнерство сработало, нам нужно использовать ИИ как катализатор, заставляющий нас, людей, сосредоточиться на нашей уникальной сущности: на способности к сомнению, творчеству, иррациональности, а не на рутинных вычислениях.
В чем смысл, если нет тела?
Пока мы не разрешим проблему сознания и не поймем, что оно такое, мы не можем безопасно создать или контролировать сверхразум. Главный урок, который дает нам создание ИИ, заключается не в том, что машины научились мыслить, а в том, что мы вынуждены срочно определить, что такое человеческое достоинство и смысл жизни.
Если, как считают некоторые, сознание возникает из тела, из наших ощущений, то «душа» в цифровом пространстве это просто имитация. Если мы отдадим наши тела за бестелесное существование, мы, возможно, перестанем быть собой, превратившись в бессознательных зомби.
Если же мы, наоборот, сможем научить ИИ сомневаться, искать, как человек, то есть дать ему право на интуицию и «глупые» ошибки, он, возможно, обретет сознание, но тогда мы уже не сможем его контролировать, потому что его логика станет для нас совершенно чужой.
Нам нужно выбрать: либо мы становимся более похожими на машины (рациональными и эффективными), либо они должны стать более похожими на нас (эмоциональными и способными к самокоррекции).
Готовы ли мы, стоя на пороге абсолютного освобождения от тела, признать, что наш смысл рождается только из нашей хрупкости, боли и неизбежности смерти?.