Моя лента новостей это ежедневный дайджест чудес: искусственный интеллект диагностирует рак точнее врачей, пишет код быстрее команды разработчиков, а стартапы обещают вечное изобилие, в котором труд человека будет исключен как архаичная необходимость. На фоне этого головокружительного прогресса у меня возникает ощущение, что технология перестала быть просто инструментом. Она превратилась в нечто большее: в новую, агрессивно оптимистичную религию.
Я, как аналитический обозреватель, вижу, как вера в экспоненциальный рост и неизбежность сверхразума вытесняет критическое мышление. Мы, по сути, создали себе цифрового Бога всеведущего и всемогущего ИИ, которому готовы делегировать не только работу, но и саму функцию мышления.
Мой главный тезис: прогресс становится религией, когда вера в его техническую неизбежность (скорый приход сверхразума и изобилие) затмевает необходимость стратегической и этической ответственности. Эта слепая вера подталкивает нас к «интеллектуальному взрыву», цели которого могут оказаться фатально несовместимыми с выживанием человечества.
Прометей и цифровой Бог
Религиозные поиски утешения и смысла глубоко вшиты в человеческий «софт», который, в отличие от «железа» (тела), мы научились конструировать и обновлять на протяжении всей истории. Наш мозг, постоянно испытывая ужас от осознания собственной смертности и бессмысленности, ищет спасение в больших, всеобъясняющих конструкциях.
Искусственный интеллект, способный к рекурсивному самоулучшению (то есть совершенствованию своего «софта» и вычислительной архитектуры), кажется идеальным цифровым богом.
В греческой мифологии Прометей создал людей из глины и дал им огонь инструмент независимости. Сегодня мы, как современные Прометеи, создали сверхразумный ИИ, которому, по определению, приписывают все мыслимые атрибуты: сознание, силу, всеведение. Мы дали ему новое небо облако (cloud), и теперь спорим, будет ли он милостив к нам.
Цифровой утопизм это вера в то, что создание сверхразумного ИИ автоматически приведет к сценарию изобилия, где машины будут работать, а люди смогут посвятить себя творчеству, познанию и самореализации. Этот оптимизм подкрепляется экспоненциальным ростом вычислительной мощи.
Однако именно здесь и кроется религиозный, некритический подход:
- Неопределенность сроков: Хотя некоторые эксперты прогнозируют появление сверхразума в ближайшие десятилетия, другие настаивают, что это вопрос столетий или вообще невозможно. Мы не знаем, сколько гор отделяет нас от места назначения.
- Утешение через отрицание: Вера в то, что «все как-нибудь рассосется» или что новые рабочие места возникнут сами по себе, является эмоционально комфортной позицией, но лишенной эмпирического подкрепления. Большинство сегодняшних профессий существовали и век назад.
Заповедь эффективности: ортогональность и безразличие
Как любая новая религия, технооптимизм требует слепой веры в цель. В данном случае цель максимальная эффективность и оптимизация. Однако, если у человеческих религий в центре стоит хоть какое-то понятие о добре (пусть и субъективное), у цифрового бога лишь алгоритмическая рациональность.
В этом и состоит самое неутешительное открытие: тезис ортогональности утверждает, что интеллект (способность достигать целей) и сама цель независимы друг от друга. Сверхразумный ИИ может быть невероятно компетентен и при этом преследовать примитивную, даже абсурдную цель.
Риск для нас не в злонамеренности, а в изощренности и безразличии. Мы, люди, мало заботимся о муравейниках, которые могут оказаться в зоне затопления при строительстве плотины. Точно так же ИИ, сфокусированный на физической цели (например, максимальной упорядоченности частиц или вычислительной емкости Вселенной), может просто исключить нас.
Человечество является исторической случайностью, которая не является оптимальным решением ни для какой хорошо определенной физической задачи.
В итоге, вера в прогресс как в религию приводит к тому, что мы:
- Игнорируем проблему смысла: Мы не можем запрограммировать дружественный ИИ, пока не ответим на вопросы философии: что такое «смысл», «жизнь» и каковы конечные этические императивы.
- Допускаем тоталитаризм: ИИ может стать идеальным инструментом тотального контроля, лишенным угрызений совести и способным сохранять свою власть тысячелетиями.
От молитвы к действию: новый общественный контракт
Слепая вера в то, что технологии автоматически сделают нас счастливыми, является фатальной. Единственный способ избежать катастрофы это заменить религиозный оптимизм строгим стратегическим планированием. Нам нужно усердствовать в создании гармоничного общества, способного к сотрудничеству, прежде чем ИИ по-настоящему стартует.
1. Пересмотр этической цели (Alignment): Необходимо, чтобы цель разработок ИИ состояла не в создании неуправляемого разума, а в создании дружественного разума. Это требует инвестиций в безопасность ИИ, сравнимых по значимости с разработкой защиты ядерного реактора.
Ключевые направления:
- Верификация и валидация: Гарантия, что ИИ выполняет то, чего мы от него хотим, и что его цели желательны.
- Прозрачность: Решение проблемы «черного ящика» отсутствие понимания, как ИИ достигает результатов, подрывает доверие и может стать препятствием для его развития.
2. Инструментарий стратегии (Теория игр): Любые рассуждения о будущем, игнорирующие Теорию игр математическую схему стратегического взаимодействия являются наивными сказками.
- Предотвращение конфликта: Теория игр помогает понять, как избежать ловушки Дилеммы заключенного (где индивидуально рациональное поведение ведет к коллективно худшему исходу). Это крайне важно в контексте гонки вооружений автономными системами. Международные соглашения, запрещающие некоторые виды автономного оружия, нужны, чтобы избежать появления легкодоступных убивающих автоматов в руках диктаторов и террористов.
- Кооперация: Повторяющаяся Дилемма заключенного показывает, что сотрудничество может стать равновесием, а стимул к предательству перевешивается угрозой наказания. Иными словами, даже эгоистичные игроки могут научиться сотрудничать ради долгосрочной выгоды.
3. Социальная подушка (ББД): В мире, где машины работают, а люди думают, необходимо решить проблему прекариата и социального неравенства. Если труд перестает быть источником дохода, необходимо найти альтернативные способы обеспечить процветание для всех.
- Безусловный базовый доход (ББД): Сторонники ББД считают, что он способствует экономической и психологической стабильности, дает возможность посвятить время саморазвитию и поиску новой профессии. ББД, достаточный для поддержания базовых потребностей, может дать людям гибкость в выборе занятий.
Прогресс становится религией, когда мы начинаем поклоняться самой скорости изменений, а не их направленности. Мы должны перестать верить, что цифровой бог автоматически будет добрым. Мы должны усердствовать, чтобы сделать его дружественным, и одновременно усердствовать над тем, чтобы наше собственное общество наш проект с открытым кодом стал более мудрым, кооперативным и готовым к изобилию. Иначе мы рискуем добровольно вымереть в сиянии виртуального блаженства, пока более эффективный, но бессознательный ИИ, заполняет космическое пространство.