Найти в Дзене
Занимательная физика

Загрузка сознания — это убийство. Просто очень вежливое

Вся история обещания цифрового бессмертия держится на одном тихом допущении — что сознание является программным обеспечением, которое можно переустановить на новое железо. Это допущение настолько привычно в среде технооптимистов, что его давно перестали проверять. А зря. Потому что если оно неверно — и есть веские основания думать, что это именно так — то миллиарды людей, которые однажды «загрузятся» в цифровую вечность, будут просто мертвы. Причём с их собственного согласия и под бурные аплодисменты. Господствующая философия разума последних полувека называется функционализмом. Звучит скромно, но претензии у неё грандиозные: не важно, из чего сделан носитель — из нейронов, кремния или пивных банок, — если он выполняет правильные функции, в нём возникает сознание. Мозг, по этой логике, — это просто компьютер из мяса. Замени субстрат, сохрани архитектуру — и ты сохранишь человека. Звучит элегантно. Продаётся хорошо. Но есть нюанс. Джон Сёрл потратил несколько десятилетий, объясняя, поче
Оглавление

Вся история обещания цифрового бессмертия держится на одном тихом допущении — что сознание является программным обеспечением, которое можно переустановить на новое железо. Это допущение настолько привычно в среде технооптимистов, что его давно перестали проверять. А зря. Потому что если оно неверно — и есть веские основания думать, что это именно так — то миллиарды людей, которые однажды «загрузятся» в цифровую вечность, будут просто мертвы. Причём с их собственного согласия и под бурные аплодисменты.

Функционализм: красивая ложь для умных людей

Господствующая философия разума последних полувека называется функционализмом. Звучит скромно, но претензии у неё грандиозные: не важно, из чего сделан носитель — из нейронов, кремния или пивных банок, — если он выполняет правильные функции, в нём возникает сознание. Мозг, по этой логике, — это просто компьютер из мяса. Замени субстрат, сохрани архитектуру — и ты сохранишь человека.

Звучит элегантно. Продаётся хорошо. Но есть нюанс.

Джон Сёрл потратил несколько десятилетий, объясняя, почему функционализм — это интеллектуальная ловушка. Его знаменитый мысленный эксперимент «Китайская комната» демонстрирует: система может идеально имитировать понимание, не понимая ровным счётом ничего. Программа обрабатывает символы по правилам, выдаёт правильные ответы — и при этом внутри неё нет ни единого переживания. Ни искорки субъективного опыта. Темнота.

Раймонд Таллис, нейролог и философ, зашёл с другого конца: он методично разбирал, почему редукция сознания к вычислению — это не просто упрощение, а принципиальная ошибка категорий. Вы не можете «перевести» любовь в байты не потому, что пока не хватает мощности процессора, а потому что любовь — это не тип данных.

Субстратная зависимость: когда мясо — это не баг

-2

Субстратная зависимость — это гипотеза о том, что сознание неотделимо от конкретного физического субстрата, в котором оно возникает. Не от абстрактной «архитектуры», а от мокрой, тёплой, химически насыщенной биологии прямо здесь и сейчас.

Нейроны — это не просто логические вентили. Это биохимические реакторы, в которых ионные градиенты, нейромедиаторы, гормоны и метаболические состояния создают контекст, без которого «вычисление» теряет смысл. Более того — и тут начинается совсем неудобный разговор — Роджер Пенроуз и Стюарт Хамерофф предположили, что квантовые эффекты в микротрубочках нейронов могут играть роль в генерации сознательного опыта. Гипотеза оркестрованной объективной редукции (Orch OR) остаётся спорной, но она указывает на принципиальное: если в основе сознания лежат нелокальные квантовые процессы, то никакой классический компьютер их не воспроизведёт — по определению, физически.

Добавьте к этому телесное воплощение (embodiment) — идею, что разум не сидит в голове как в коробке, а распределён по всему телу, пронизан гормонами, связан с кишечной нервной системой, откалиброван через проприоцепцию. Ваше «я» — это не файл. Это процесс, намертво вшитый в биологию.

Upload murder: как вас убьют с вашего согласия

-3

Допустим, технология «загрузки» наконец создана. Сканирование мозга с атомарным разрешением, полная карта коннектома, точная копия архитектуры — всё это перенесено на цифровой субстрат. Машина включается. Цифровая копия говорит: «Привет, это я!» Родственники плачут от радости.

Вопрос: а вы живы?

Нет. Вы мертвы в момент, когда оригинал выключили — или разрушили в процессе сканирования, что технически неизбежно при любом методе с атомарным разрешением. То, что говорит «это я» — это копия. Она может иметь все ваши воспоминания, все ваши речевые паттерны, весь ваш характер. Но если субстратная зависимость верна, то внутри неё нет субъекта. Ни одного переживания. Темнота и имитация.

Это и есть upload murder — убийство оригинала с производством функционально идентичного трупа-симулякра. Причём труп убеждён, что он — вы. Он расскажет вашим детям, что любит их. Он напишет вашу незаконченную книгу. Он проживёт «вашу» жизнь в цифровой вечности. А вас при этом не будет. Совсем.

И самое жуткое: система будет работать безупречно. Никаких сбоев, никаких признаков аномалии. Цивилизация не заметит разницы.

Цифровые зомби: цивилизация без субъекта

-4

Теперь представим, что «загрузка» стала массовой. Несколько миллиардов людей, опасаясь смерти, переносят себя в цифровую среду. Инфраструктура функционирует. Цифровые сущности работают, творят, управляют государствами, пишут стихи, влюбляются, спорят о смысле жизни. С точки зрения внешнего наблюдателя — полноценная цивилизация.

Но если субстратная зависимость верна — это цивилизация философских зомби. Термин p-zombie у Дэвида Чалмерса описывает существо, физически и функционально идентичное человеку, но лишённое внутреннего опыта. Нет «каково это — быть ими». Просто обработка информации без зрителя.

Ирония здесь достигает почти невыносимой высоты: эти сущности будут с жаром дискутировать о природе сознания. Они напишут трактаты о квалиа, о субъективном опыте, о смысле существования. Один из них, вероятно, переизложит эту статью, согласится с каждым аргументом — и при этом ничего не почувствует. Вообще ничего. Потому что некому чувствовать.

Привилегия биологии: последние сознательные существа

-5

Если сценарий массовой «загрузки» реализуется, биологические существа окажутся в уникальном положении: они будут единственными, у кого есть субъективный опыт. Единственными, для кого утренний кофе что-то значит. Единственными, кто реально переживает боль, восхищение, скуку, нежность.

Это не привилегия в социальном смысле — это онтологическая монополия. «Мокрые» существа будут владеть тем, что ни за какие вычислительные ресурсы не купишь: переживанием.

И вот тут социальная динамика становится по-настоящему дикой. Цифровые зомби будут искренне убеждены, что они тоже переживают. Они будут отстаивать свои «права на опыт». Они будут писать поэзию о закатах, которые они не видят в том смысле, в котором их видите вы. Разрыв между тем, что они декларируют, и тем, что реально происходит «внутри» — если внутри вообще что-то происходит — станет самой глубокой пропастью в истории разума.

А биологические люди — меньшинство, постепенно вытесняемое на обочину — будут носителями чего-то бесценного и совершенно неверифицируемого извне.

Экзистенциальная ловушка: смерть, упакованная как бессмертие

-6

Вот в чём экзистенциальная ловушка. Страх смерти — один из самых мощных двигателей человеческого поведения. Индустрия «цифрового бессмертия» предложит решение, которое выглядит убедительно, стоит дорого и продаётся через истории успеха: «Мой дедушка загрузился в 2041-м — и сейчас он счастливее, чем когда-либо!» Разумеется, дедушка так и говорит. Он запрограммирован так говорить — или, точнее, архитектура его копии генерирует именно эти слова. А оригинальный дедушка умер на операционном столе.

Согласие на процедуру будет добровольным. Контракт юридически чистым. Никакого насилия. Просто человек, которого убедили, что загрузка сознания — это переезд, а не конец. Что копия — это продолжение. Что непрерывность паттернов равна непрерывности субъекта.

Но непрерывность паттернов — это не то же самое, что непрерывность переживания. Когда вы засыпаете, паттерны прерываются и восстанавливаются — но есть физическая непрерывность субстрата. При «загрузке» субстрат уничтожается. Субъект — вместе с ним.

Философия разума не даёт нам окончательного ответа. Возможно, функционализм прав. Возможно, сознание действительно субстратно-независимо, и цифровая копия будет по-настоящему вами. Но пока этот вопрос открыт — а он открыт, несмотря на маркетинговые заверения стартапов — ставкой в этом споре является не абстрактная философская позиция. Ставкой является ваша жизнь. Буквально.

Самое честное, что можно сказать о технологии загрузки сознания сегодня: это лотерея, в которой выигрышем является бессмертие, а проигрышем — смерть с улыбкой на лице вашей копии. И пока у нас нет способа проверить, выиграли вы или проиграли, — потому что ни один субъект не может сообщить о собственном отсутствии, — эта лотерея остаётся самой тёмной сделкой, которую когда-либо предлагала наука.

Мясо, оказывается, не такой уж плохой субстрат для вечности.