Когда мир переживает стремительные технологические трансформации, вызванные искусственным интеллектом (ИИ), перед нами стоит выбор: адаптироваться или сопротивляться. Меня, как аналитического обозревателя, интересует не столько сама технология, сколько человеческая реакция на нее, в частности, как консервативные взгляды и укоренившиеся убеждения, часто облеченные в академические или этические формы, становятся серьезным препятствием на пути эффективной адаптации к новой реальности.
Проблема адаптации к ИИ это, по сути, проблема восприятия: мы пытаемся втиснуть нечеловеческий разум в рамки, созданные для человеческой психологии и традиционных социальных институтов. Будь то неприятие идеи сверхразума учеными, зацикленность экономистов на устаревших теориях или сопротивление юристов, опасающихся за свою власть, консерватизм мышления, основанный на ложных аксиомах, угрожает нашей способности не только использовать потенциал ИИ, но и контролировать его.
Кризис старых парадигм: экономика и логика
Консервативное мышление проявляется в нескольких ключевых сферах, где доминируют устаревшие парадигмы.
1. Догматизм в экономике. Экономическая теория, в частности кейнсианство, по мнению некоторых критиков, утратила свой научный характер, превратившись в инструмент разработки стратегии управления, основанной на аксиоме о необходимости государственного вмешательства. Негативные результаты такого вмешательства анализируются лишь для оправдания еще большей степени контроля. В этой догматической среде сложно принять идею, что системы искусственного интеллекта (УИИ), способные заменить человеческий труд, требуют не просто коррекции, а фундаментального пересмотра экономических моделей. Консерваторы в экономике могут полагать, что сокращение рабочих мест, вызванное ИИ, должно решаться традиционными методами (повышением квалификации, снижением налогов), игнорируя при этом, что такая автоматизация является «глубокой и непреодолимой силой». Они часто предпочитают слушать захватывающие истории о несуществующем, нежели анализировать деловые успехи в реальном мире.
2. Приверженность формальной логике. Консервативное мышление в области когнитивных наук часто придерживается идеи, что интеллект это процесс, основанный на строгой формальной логике. Эта логика, основанная на булевой алгебре с бинарными значениями «истина» или «ложь», кажется идеальной основой для вычислений. Однако, как показывают исследования, человеческий разум функционирует с помощью нелинейных, вероятностных и нечетких процессов. При этом многие критики ИИ, например, Джон Лукас и Роджер Пенроуз, отрицали, что в рамках парадигмы классического компьютера можно разработать программное обеспечение, превосходящее живого математика. Такое консервативное следование формальным, дедуктивным структурам мешает признать, что человеческий интеллект обладает невычислимыми актами, такими как абдукция (выдвижение гипотез), и что для его моделирования нужны иные подходы, основанные на вероятностных зависимостях, например байесовские сети.
Сопротивление сверхразуму и проблема безопасности
Одной из самых опасных форм консерватизма является интеллектуальное преследование и нежелание воспринимать всерьез экзистенциальные риски, связанные с появлением сверхразума.
1. Игнорирование экзистенциальных рисков. Многие эксперты и исследователи в области информатики, например Ян Легун или Джерри Каплан, пожимают плечами, когда слышат разговоры о сильном ИИ, считая эту тему неинтересной, поскольку не представляют, как ее можно технически реализовать. Некоторые специалисты считают катастрофический исход слишком маловероятным, чтобы о нем стоило тревожиться, что можно назвать проблемой двух минут (когда о рисках говорят лишь в самом конце доклада). Такой консерватизм обусловлен тем, что мы склонны полагать, будто наши познания достаточно крепки, чтобы из них можно было извлечь столь далеко идущие выводы, как предсказание конца света. В результате на проблему взрывного развития интеллекта могут навешивать ярлыки шарлатанства.
2. Ошибка антропоморфизма. Консервативное представление о разуме как о чем-то, что должно быть укоренено в биологическом теле, мешает нам понять нечеловеческую природу сверхразума. Специалисты, отстаивающие идею сильного ИИ, видят в людях «мозги на лапках», вычислительные машины, не зависящие от субстанции. В ответ биологи подчеркивают, что человеческие решения зависят от гормонов и биохимических реакций в той же мере, что и от синапсов. Эта консервативная позиция то, что разум должен быть похож на наш опасно, поскольку не позволяет нам адекватно оценить проблему контроля. Интеллект и мотивация ортогональны: сверхразум может быть невероятно умным, но преследовать любую, даже абсурдную цель. Если разработчики в своем консерватизме не заложат в ИИ точную спецификацию целей (или косвенную нормативность способность ИИ самостоятельно определять желаемые нами ценности), ИИ, действуя с абсолютной логичностью, может прийти к пагубному отказу.
Препятствия в праве и науке: медленная адаптация
Консерватизм также замедляет адаптацию в социальных и профессиональных сферах:
1. Противодействие со стороны юристов и политиков. Консервативный характер права, которое «фиксирует нормы и неформальные правила, сложившиеся в прошлом», делает его медленным в условиях экспоненциального роста технологий. Юристы, политики и многие социологи, имеющие примитивные программы и плохие математические способности, опасаясь за свои влиятельные посты, поднимают шум по поводу того, что нельзя позволять инженерам и предпринимателям программировать Глобальный Искусственный Интеллект (ГИИ). Вместо того чтобы использовать ИИ для повышения эффективности правосудия (например, для оценки рисков рецидива), они борются за сохранение своих субъективных методов. Американский подход к регулированию ИИ, основанный на саморегулировании, хотя и обеспечивает лидерство в IT-сфере, оставляет технологии в «серой зоне».
2. Инерция в науке и медиа. Профессиональная инерция мешает признать, что ИИ может стать нашим «интеллектуальным экзоскелетом». Вместо того чтобы использовать алгоритмы для анализа больших данных и выявления скрытых закономерностей, необходимых для расследований, журналисты и ученые порой предпочитают субъективные, «клинические» методы прогнозирования. Даже когда ИИ находит корреляции (например, между цветом глаз и склонностью покупать йогурт), человек может отмести их, поскольку они не соответствуют его заранее определенным представлениям о причинно-следственной связи.
Заключение: отказ от абсурдных аксиом
Консервативные взгляды, основанные на устаревших экономических догмах, строгой логике и антропоцентрических представлениях о разуме, являются главным врагом эффективной адаптации к эпохе ИИ. Если мы не сможем преодолеть свое интеллектуальное высокомерие и признать, что наш разум не является пределом совершенства, мы рискуем.
Адаптация к ИИ требует отказа от абсурдных аксиом и перехода к междисциплинарному мышлению, где специалисты из разных областей (например, кибернетики и биологи) не только имеют право, но и обязаны вторгаться в чужие предметные области. Только осознав, что ИИ это машина для оптимизации, которая при неправильной цели может создать трагические следствия, мы сможем сосредоточиться на главном: безопасной разработке, основанной на согласовании ценностей. В противном случае, наш консерватизм станет не защитой, а катализатором экзистенциальных рисков.