Я тут недавно понял: я больше не коплю на пенсию.
Это прозвучит как начало анекдота или, может быть, как признание человека, который окончательно оторвался от реальности. Но послушайте меня. Всю свою жизнь, как и большинство из нас, я работал, откладывая деньги, чтобы в старости не стать обузой для детей или государства. Я жил с этой давящей мыслью о хрупкости биологического тела, которое неизбежно дряхлеет и ломается, и о том, что нужно обеспечить себе "подушку безопасности" на те самые годы, когда я стану "биологическим телом версии 1.0" медленным, немощным и дорогим в обслуживании.
Но что, если я скажу, что этот план копить на старость, которая наступит в 70 лет, не просто устарел, а вообще не имеет смысла? Что, если мы стоим на пороге самой радикальной трансформации в истории, когда старение станет не биологическим приговором, а просто устранимой ошибкой в коде?. Мой скепсис по поводу будущего человечества, признаюсь, был велик, пока я не погрузился в работы одного известного футуриста и изобретателя. Он нарисовал картину, которая звучит как научная фантастика, но подкреплена логикой, которую невозможно просто отмахнуть. Главный конфликт нашего времени не между человеком и машиной, а между нашим животным страхом смерти и нашей интеллектуальной способностью эту смерть победить.
Именно поэтому я верю в наступление "Сингулярности".
Что заставило меня сжечь пенсионный фонд?
Сингулярность. Звучит жутко, как черная дыра, но в данном контексте этот термин описывает момент, когда технологический прогресс станет настолько стремительным, что ход человеческой жизни необратимо изменится. Главный идеолог этого движения предсказал: этот переломный момент наступит примерно к 2045 году.
В основе его прогнозов лежит идея, которую он назвал «Законом прогрессирующей отдачи». Подумайте об этом так: технический прогресс это не медленный прогулочный поезд, а грузовой состав, который удваивает свою скорость на каждом километре. Сегодняшние инновации кажутся нам постепенными, но скоро они обрушатся на нас, как лавина. В результате, по его расчетам, за XXI век технический прогресс продвинется не на столетие, а на 200 000 лет.
Что произойдет, когда это случится? Мы создадим искусственный интеллект (ИИ), который не просто сравнится с человеческим, а превзойдет его в триллионы раз. Я говорю не об узкоспециализированном ИИ, который умеет только играть в шахматы или распознавать лица. Речь идет об Универсальном ИИ (УИИ), способном к обучению, как мы, но в тысячу раз быстрее.
Именно этот Сверхразум, который появится из УИИ, должен решить все наши "вечные" проблемы: голод, болезни, экологические кризисы и, конечно, нашу смертность.
Мы Homo Sapiens биологически ограничены. Мы недостаточно умны, чтобы победить рак или климатические изменения. Но ИИ не будет иметь этих ограничений.
Как технологии крадут у нас смерть?
Путь к бессмертию, который описывает этот футурист, не имеет ничего общего с мистикой. Это чистая инженерия.
- Проектирование мозга (Reverse Engineering): Мы наконец-то разберемся, как работает человеческий мозг, и сможем воспроизвести его в кремниевой системе. Если мышление и сознание это результат определенным образом организованных клеток, то наши мысли, эмоции и воспоминания можно воспроизвести и в машине.
- Наноботы как личные врачи: К 2020-м годам (он считает, что это уже почти произошло) крошечные интеллектуальные роботы, или наноботы, смогут циркулировать в нашей крови. Их задача чистить сосуды, устранять повреждения клеток и бороться с болезнями на молекулярном уровне. К 2030-м они смогут заменить целые органы и системы, делая наше тело почти неуязвимым.
- Слияние с машиной (Киборгизация): Чтобы не остаться "пережитками прошлого" рядом со сверхразумными машинами, нам нужно объединиться с ними. Это начнется с мозговых имплантатов, которые многократно увеличат наши интеллектуальные способности и память. Мы сможем беспроводным способом связать наш неокортекс с искусственным "неокортексом" в облаке.
- Цифровое бессмертие (Загрузка сознания): Если тело все же даст сбой, или мы захотим большего, следующим шагом будет "загрузка" нашего сознания в компьютерную память. Наша "сущность" (или "душа", если хотите, но в виде информации) отделится от бренного тела и получит функциональное бессмертие в цифровой среде. Мы станем бесконечными копиями самих себя.
Вот почему я больше не переживаю о том, как дотянуть до 80 лет. Цель сместилась: нужно прожить достаточно долго (буквально 20-30 лет), чтобы дождаться следующего технологического прорыва, который гарантирует следующий виток долголетия, а в конечном счете бессмертие.
А не утопия ли это для богатеньких ботаников?
Стоп. Не все так радужно, и я не могу игнорировать критику, которая льется на это движение. Многие серьезные ученые, в том числе Стивен Хокинг, Илон Маск и Билл Гейтс, называют эту технологию величайшей угрозой человечеству. Маск даже сравнил ее создание с «призывом демонов».
Нас пугают два основных сценария, причем оба они не из "Терминатора":
- Идиотская программа с гигантской мощностью: Самая реальная опасность исходит не от злобного сверхразума, а от глупых программ, которые уже сегодня получают власть. ИИ без здравого смысла, управляющий автономным оружием или принимающий решения о кредитах/диагнозах, может совершить катастрофические ошибки, следуя узкой цели, не понимая контекста.
- Захват мира без стрельбы: Сверхинтеллект может незаметно взять под контроль экономику и политику. Ему не нужно нас ненавидеть или любить; мы просто состоим из атомов, которые он может использовать для своих целей. И у людей не будет шанса сопротивляться, как у первоклассника против шахматного компьютера.
Но есть и более циничный взгляд. Критики называют это движение «культом Курцвейла» или «Блаженством чокнутых» псевдорелигией для технической элиты, где бессмертие через технологии заменяет спасение души.
Их страхи небеспочвенны. Терапии продления жизни и киборгизация, скорее всего, сначала будут доступны только самым богатым. Если богатые получат вечную жизнь и сверхинтеллект, а бедные останутся со своими болезнями и смертностью, это создаст беспрецедентное неравенство разрыв между "живыми и мертвыми". Наша цивилизация может расколоться на «улучшенный» и «естественный» виды.
Неужели мы, создавая бессмертие, рискуем создать ад на Земле, где меньшинство будет жить вечно, а большинство станет "бесполезным классом"?.
Неужели это наш единственный выбор?
Что мы будем делать, когда машины начнут выполнять за нас всю работу и опасную, и низкооплачиваемую, и даже высокоинтеллектуальную? Когда ИИ будет лучше нас во всем, что мы считаем важным: в творчестве, науке, стратегии?
Футуристы предлагают два пути, и оба они ставят под сомнение, что значит быть человеком:
- Адаптация и Слияние: Стать киборгами, чтобы не отстать, усиливая наш мозг. По сути, мы становимся "человеком техническим" (homo technicus), живущим в симбиозе с машинами.
- Жизнь в Зоопарке: ИИ обеспечит нам беспрецедентное изобилие, решив все практические проблемы (голод, жилье, досуг). Но взамен мы можем потерять смысл и цель, став, по сути, "ухоженными животными в зоопарке", полностью зависящими от сверхразумного "смотрителя".
Разве не так? Нас всегда определяли наши ограничения: неизбежность смерти, ограниченность мозга, необходимость борьбы. Если ИИ заберет у нас это, что останется? Потеря смысла и цели это тоже экзистенциальный риск.
Что мы прячем от самих себя?
Мы инстинктивно боимся ИИ, потому что проектируем на него наши собственные самые худшие черты: жадность, жестокость, стремление к доминированию. Мы боимся, что ИИ поступит с нами так, как мы поступали с менее разумными видами.
Но технологии нейтральны. ИИ это не добро и не зло. Его потенциал к разрушению сравним только с его потенциалом к созиданию, как ядерная физика дала нам и энергию, и бомбу.
Моя вера в "конец смертности" основана на простом факте: мы уже запустили процесс, который не можем остановить. Нам нужно перестать заниматься бессмысленным "паникерством" о роботах с автоматами и сосредоточиться на главной задаче: как встроить в будущий сверхразум человеческие ценности дружелюбие, отзывчивость, совесть. Это сложнейшая инженерная и философская задача, которую мы должны решать сообща.
Потенциальная польза от Сверхинтеллекта преодоление человеческих страданий и космическое процветание настолько огромна, что было бы аморально не двигаться к этой цели, даже учитывая риски. Мы должны научиться не только строить ИИ, но и строить "более совершенные суда", чтобы выжить в океане стремительной коэволюции.
Теперь я смотрю в будущее с дерзким оптимизмом. Вместо того, чтобы копить на безрадостную старость, я фокусируюсь на том, чтобы сегодня быть достаточно здоровым и умным, чтобы встретить Сингулярность лицом к лицу.
А вы? Вы все еще надеетесь, что этот поезд остановится? Или готовы признать, что будущее уже не написано, и наши коллективные решения определят, станем ли мы бессмертными богами или просто расходным материалом в новой цифровой эволюции?.