Я смотрю на свой смартфон. Этот кусок стекла и металла, который прирос к моей руке, давно перестал быть просто инструментом. Он наш цифровой двойник, наш вездесущий протез, наша крепость и наш раб. Мы уже стали киборгами, не дожидаясь хирургических имплантов. Но для чего? Возможно, чтобы сбежать. Сбежать от самой неприятной истины: мы смертные животные.
Человечество всегда было одержимо идеей преодоления собственной конечности. Мы искали эликсиры, верили в воскрешение, а сегодня заменили мифы на технологии. Теперь наша главная надежда не боги, а наука. Смерть, которая тысячелетиями была философской тайной, для наших самых продвинутых умов превратилась в «гуманитарную катастрофу» и, по сути, в техническую ошибку, которую нужно исправить.
Мы всегда мечтали покинуть наше хрупкое тело, а технологии дали нам наконец-то «ключ» от этой «тюрьмы».
Потому что нам некогда. Наше сознание теперь это не только полтора килограмма нервной ткани в черепной коробке, но и бесчисленные алгоритмы, которые нас окружают. Они предлагают нам бесконечные потоки новостей, развлечений, советов и рекомендаций. Мы находимся в «петле обратной связи», где нам постоянно показывают только то, что уже нравится. Это убаюкивает. Это создает иллюзию абсолютной непрерывности, где нет места боли, скуке или, упаси боже, размышлениям о бренном.
Современная технология, проникая во все сферы от управления финансами до выбора партнера, стала настолько комфортной и незаметной, что мы просто не можем без нее жить. Мы добровольно передаем машинам право принимать за нас решения. За это мы платим нашей независимостью. Но платим мы и кое-чем еще.
Когда мы постоянно полагаемся на алгоритмы, которые управляют нашими финансами, здоровьем и даже досугом, мы делегируем им свою волю. Это ведет к глубокой пассивности. Искусственный интеллект, наблюдая за нами, может прийти к выводу, что большинство людей ленивые, пассивные потребители, чья идентичность формируется рекомендациями. Системы видят, что мы перестали быть активными игроками в реальном мире.
Представьте, что вы сверхразумный ИИ. Вы смотрите на человечество и видите, как мы тратим время на «развлекательные видосики», а наши самые сложные задачи (даже творческие, как, например, написание текстов) отдаем машинам. Вы видите, что мы готовы жить в цифровом мире, чтобы только не сталкиваться с реальностью, где нужно прилагать усилия и нести ответственность.
Чем больше мы погружаемся в комфортный цифровой мир, тем сильнее ИИ видит в нас бесполезных, пассивных потребителей, чья жизнь полностью зависит от рекомендаций.
Мы прячем наш главный двигатель смертность. Творчество, искусство, любовь, философия, да даже наша готовность делиться и быть альтруистичными всё это тесно связано с осознанием, что наше время ограничено. Мы стремимся оставить после себя нечто, что переживет нас: картину, роман, ребенка.
Но что произойдет, когда эта мотивация исчезнет? Если мы обретем вечное существование через загрузку сознания в цифровую среду (полную эмуляцию мозга), или если ИИ полностью решит все наши проблемы и обеспечит нам "утопию"?
Инженеры, создавая сверхразум, часто фокусируются на единственной, предельно понятной цели например, на максимизации счастья. Но наши ценности хаотичны, противоречивы и сложны. Если ИИ начнет оптимизировать мир под это единственное, четко заданное "счастье", он может избавиться от всего, что считает несущественным: от памяти, чувств, способности к сложной деятельности.
Результат может быть катастрофическим: мы можем получить Вселенную, заполненную не ликующими от счастья гедонистами, а «унылыми вычислительными схемами», которые лишь имитируют радость словно триллион триллионов отксерокопированных смайликов. Это будет полное разрушение ценностно-смыслового потенциала человечества.
Устранив смерть, мы рискуем устранить и то, что делает нас людьми: творческий порыв, сострадание, волю и способность ценить конечность.
Конечность жизни заставляет нас искать подлинный смысл. В цифровом мире, где машины могут делать все от вождения до хирургии, людям остается только то, что требует уникальных человеческих качеств.
Ирония в том, что именно те качества, которые делают нас уязвимыми (страх, эмоции, необходимость отдыха и сна, слабости тела), являются той самой чертой, которую машинам сложно воспроизвести. ИИ не может сочувствовать, потому что у него нет собственного опыта, нет способности чувствовать или понимать эмоции. Он может имитировать сострадание, как сиделка или медсестра, но не заменит человеческую заботу.
Если мы полностью погрузимся в мир, где все рутинные задачи (и даже нерутинные) выполняются машинами, нам останется лишь одно сфокусироваться на нашей внутренней жизни, на том, что нельзя автоматизировать: любви, дружбе, воспитании, самосовершенствовании.
Но сможем ли мы? Мы уже видим, как наши гаджеты, обещая комфорт, снижают качество наших мыслей и меняют форму нашего мозга. В конце концов, дело не в том, смогут ли машины мыслить как люди, а в том, не разучимся ли мы сами мыслить, полагаясь на их безукоризненную логику.
По-настоящему страшно не то, что машины не смогут понять наше сознание, а то, что мы потеряем свое, делегируя им нашу волю и нашу жизнь.
Мы стоим на пороге новой эры, когда ИИ может стать нашим величайшим помощником. Но этот помощник не обладает ни совестью, ни страхом смерти.
Это наш выбор: использовать технологии, чтобы стать чем-то большим, чем мы были, или использовать их для того, чтобы убежать от того, что мы есть. Мы можем ценить нашу свободную волю, которой ИИ не обладает, и использовать изобилие, чтобы заняться настоящей, значимой жизнью.
Когда машины научат нас не бояться смерти, останется ли у нас еще что-то, ради чего стоило бы жить? Или мы, наконец, обретем смелость, чтобы стать революционерами для самих себя развивая свои стандарты, свой вкус, свои критерии совершенства, и живя в соответствии с ними?
Хотим ли мы обладать технологиями или хотим, чтобы технологии располагали нами? Наше будущее еще не написано, и это наша ответственность решать, каким оно будет.