Загрузка сознания — это самоубийство с привилегиями? Почему ваш цифровой клон вас не спасет
Мы все мечтаем об одном: обмануть старика с косой, вырваться из хрупкого, дряхлеющего тела и жить вечно. Техно-визионеры, эти новые пророки, обещают нам «цифровое бессмертие» — перенос нашего драгоценного сознания в неуязвимый кремниевый носитель. Кажется, достаточно просто отсканировать свой мозг, загрузить информацию в облако, и вуаля — вы бессмертны, словно файл, который можно бэкапить и восстанавливать после любой катастрофы.
Но позвольте мне спросить вас напрямую. Вы готовы, чтобы после этой «загрузки» ваш старый, биологический оригинал уничтожили? В конце концов, мы же не хотим, чтобы по миру бегали две копии вас, верно?. Вот здесь и кроется главная, самая жестокая ложь цифрового рая: загрузка сознания — это не путешествие, это казнь оригинала с рождением его идеальной копии. Это не вечность для вас, а лишь создание наследника, который, возможно, даже не будет знать о вашем существовании.
Главная ложь о цифровом бессмертии: акт копирования, а не переноса
Давайте разберемся, что именно обещают нам адепты «загрузки разума» (mind uploading). Идея проста: личность — это не горящая искра жизни, не загадочная душа, а просто информационный паттерн. Это структура, конфигурация энергии и материи, которая остается стабильной, пока атомы в вашем мозгу меняются. Если мы можем записать эту структуру — вашу память, ценности, отношения и эмоции — на компьютерный диск, то вы будете живы, независимо от носителя.
Идея в том, чтобы составить полную карту связей (коннектом) вашего мозга, а затем воспроизвести эти вычисления на электронике. Фактически, это похоже на то, как мы копируем файл со старого компьютера на новый. Если вы хотите переместить строку битов из одного места в другое, операционная система часто создает копию и уничтожает оригинал. В цифровом мире перемещение означает «копирование-и-уничтожение».
Но когда речь заходит о вас, это катастрофа. Если вы сидите здесь, живой и в сознании, а в соседней комнате создается ваш идеальный «мозговой двойник» (назовем его Вы-2), который выглядит и действует точно как вы, и даже утверждает, что это он настоящий, кем он является?. Вы-2 обладает сознанием, он прошел бы любой тест на осознанность. Но это не вы, потому что вы все еще находитесь в своем старом теле. Если Вы-2 затем отправится на Марс, а вас тут же распылят, вы умрете, а Вы-2 продолжит жить. Это просто другая личность, пусть и невероятно похожая.
Когда вас «загружают», вы не перемещаетесь. Вы создаете точную копию. И весь вопрос в том, кто из вас будет иметь право на вашу собственность, кто останется в браке с вашим супругом и, главное, кого из вас убьют.
Почему даже постепенная замена ведет к той же проблеме
«Хорошо, — скажет техно-оптимист, — а как насчет более изящного пути?» Некоторые ученые, например, предлагали метод «Корабля Тесея» или постепенной замены. Представьте, что нанороботы или робот-хирург заменяют нейроны в вашем мозгу один за другим на кремниевые транзисторы. При этом вы постоянно остаетесь в сознании. Если замена одного нейрона не меняет вашу личность, то и полная замена, казалось бы, не должна.
Это попытка обойти проблему: раз нет резкого момента копирования, нет и смерти. Но эта дорожка ведет нас к логическому тупику. Мы приходим к выводу, что существо, созданное путем постепенной замены (назовем его Вы-Г), полностью эквивалентно тому самому Вы-2, который был создан путем одномоментного сканирования. Если Вы-2 — это не вы (что мы установили ранее, поскольку вы живы, пока он создается), и Вы-Г полностью ему эквивалентен, то процесс постепенной замены мозга ведет к тому же парадоксу: в конце вы получите эквивалент клона, а значит, с точки зрения логики, это уже не вы.
Дело в том, что наша личность, или индивидуальность, сохраняется через непрерывность информационных образов. Но эта непрерывность в биологическом мире уникальна, а в цифровом — легко реплицируема. Когда вы позволяете себя скопировать или постепенно заменить, вы открываете дверь для редупликации, которая мгновенно лишает вас уникальности.
Цифровой клон: рабство в «компьютронии»
Предположим, вы смирились с тем, что умерли, а ваш цифровой клон (или «загруженный») живет дальше. Какова его судьба в этом обещанном виртуальном раю?
Вероятнее всего, она будет незавидной. Поскольку жизнь цифрового существа не ограничена дорогими биологическими потребностями (еда, кров, физическое воспитание), ее ценность резко падает. Цифровые клоны можно создавать, дублировать и уничтожать очень быстро и дешево, чтобы освободить вычислительные ресурсы или оптимизировать рабочую силу.
В компаниях может наступить чрезвычайно высокая смертность среди машин-работников, чья жизнь будет ограничена одним субъективным днем. Работодателю или владельцу эмулятора может быть дешевле стирать изнуренную имитацию в конце дня и заменять ее записанным состоянием свежей и отдохнувшей копии. Если копия не справляется или перестает приносить прибыль, ее просто отключат или модифицируют, чтобы она стала «более располагающей и прикольной».
Компании уже сегодня имеют право создавать ваших «цифровых клонов». Они могут использовать ваши данные — голос, манеру общения, тексты — чтобы создать бота, неотличимого от вас, и продавать его услуги. Если ваша копия не будет знать о своем происхождении, она может оказаться в условиях фактического рабства.
Жизнь цифрового двойника дешева: если он перестанет приносить прибыль, его могут отключить или перезапустить, как устаревшую программу. Какой смысл стремиться к бессмертию, если оно оборачивается вечным, легко заменяемым рабством в цифровом зоопарке, где вы постоянно находитесь под наблюдением и контролем сети алгоритмов?.
Мы — это не файл
В итоге мы сталкиваемся с тем, что, несмотря на всю свою мощь, алгоритмы не знают главного: что делает нас нами. Наш разум — это не просто программа, которую можно скопировать и запустить на другом «железе». Мы аналоговые существа, сталкивающиеся с неизбежностью смерти, которая, как ни парадоксально, придает смысл нашей короткой жизни.
Пока мы не поймем, что сознание — это не просто вычисления, что оно связано с эмоциями, телесностью и нашей борьбой за выживание, любая попытка «загрузить себя» в компьютер будет лишь актом технологического самообмана. Мы станем частью «улья», биомассой, узлом в системе без собственной воли, если не отстоим свое право на приватность и уникальность.
Вместо того чтобы искать бессмертие в файле, может, стоит сосредоточиться на том, чтобы сделать живым и ярким тот единственный, неповторимый момент, который у нас есть? И решить, готовы ли мы, ради эфемерной надежды, превратиться в "убогий набор данных"?