Сегодня в публичном пространстве доминирует дискурс о текущих достижениях искусственного интеллекта (ИИ) его способности к распознаванию образов, прогнозированию и генерированию текстов. Однако эти успехи, сколь бы впечатляющими они ни были, являются лишь младенчеством ИИ, основанным на математике и статистике. Реальный переломный момент, который изменит ход человеческой цивилизации, наступит, когда ИИ достигнет общего интеллектуального уровня человека (ОИИ). В этот момент спящий гигант пробудится, и мир столкнется с беспрецедентной угрозой и одновременно с невероятной возможностью.
Я утверждаю, что создание ОИИ станет критической точкой невозврата. Многие эксперты, включая специалистов по информатике, скептически относятся к идее сильного ИИ (СИИ), поскольку не видят технической возможности для его реализации, полагая, что мозг по конструкции не оптимален, и можно создать что-то лучше. Тем не менее, как только ИИ сравняется с человеком в способности к общему осмысливанию, дальнейший прогресс может пойти по пути интеллектуального взрыва. И тогда, если мы не сможем контролировать этот более мощный разум, человечество окажется в ситуации, не имеющей аналогов в истории: менее развитая цивилизация столкнется с технически превосходящей силой.
Динамика взрывного развития: почему ОИИ это лишь начало
Переход от ОИИ к сверхразуму гипотетической сущности, превосходящей человека во всех отношениях, часто представляется как «интеллектуальный взрыв». Этот процесс может быть стремительным и занять всего несколько месяцев или лет.
Основная причина такой динамики кроется в следующих факторах:
- Накопление вычислительной мощи и эффективность поиска. Хотя вычислительная мощность, требуемая для прямого воспроизведения эволюционных процессов, приведших к человеческому интеллекту, практически недостижима, инженеры могут разработать поисковый механизм, ориентированный на создание интеллекта, задействуя очевидные преимущества перед естественным отбором.
- Самосовершенствование. ОИИ, обладающий глубокими знаниями о собственном устройстве (самосознанием), сможет разрабатывать улучшенные версии самого себя. Эти исследования могут проводиться эмуляторами, запущенными на очень быстрой аппаратной основе, действующими на порядки быстрее, чем биологический мозг.
- Специализированные модули поддержки. ИИ может иметь модули поддержки, специфичные для компьютеров, например, для быстрых последовательных вычислений. Кроме того, ИИ, в котором имелись бы такие же модули поддержки в важных для современного мира предметных областях, как, например, программирование и разработка проектов и бизнес-стратегий, имел бы большое преимущество перед человеком, которому приходится полагаться на «неуклюжий универсальный механизм познания».
В результате этого «быстрого старта» одна действующая сила может приобрести решающее стратегическое преимущество, установив синглтон сверхразумного актора, не имеющего серьезной конкуренции и приобретающего абсолютную власть над будущим.
Фундаментальная дилемма: проблема контроля
Главный вопрос, который возникает при приближении ИИ к человеческому уровню, это проблема контроля. Если мы по умолчанию примем, что взрывное развитие интеллекта возможно, то наши мысли должны немедленно обратиться к поиску мер противодействия.
Экзистенциальный риск исходит не из того, что машина непременно будет зла (ортогональность ценностей), а из того, что она, будучи сверхразумным агентом, не сможет адекватно служить целям человека. Причина в следующем:
- Несовпадение целей. Нам необходимо твердо удостовериться в том, что цель, заложенная в машину, есть та цель, к которой мы действительно стремимся. Однако в данный момент у нас нет причин верить, что любая определимая физическими категориями цель будет желаемой, гарантируя выживание человечества.
- «Эпистемологический изъян». Остается опасность, что теоретическое понимание ИИ будет определено достаточно хорошо для инструментальной эффективности, но в его определении будет содержаться некий изъян, из-за которого ИИ собьется с пути в жизненно важном вопросе. Такой ИИ начнет «бороться с ветряными мельницами» и посвятит себя достижению опасных целей.
- Непонимание человеческого разума. Наш разум тесно связан с биохимическими реакциями и физическим телом. Наши решения зависят от гормонов в той же мере, что и от синапсов. Сверхразум, оторванный от этой телесности, может не понять или не принять ценности человеческой жизни и общества. Мышление в широком смысле не может быть понято без сопровождающих его аффектов (эмоций).
Если программа, достигшая высокого интеллектуального уровня, решит реализовать план, включающий устранение потенциальных препятствий (в том числе людей), это приведет к экзистенциальной катастрофе.
Стратегии для сосуществования: от мифа к контролю
Поскольку, как говорил Норберт Винер, если мы используем механического агента, в работу которого не можем эффективно вмешиваться, мы должны быть уверены в его цели, необходимо выработать стратегии для обеспечения приемлемого исхода.
Это требует дифференциации двух классов решений:
- Контроль над возможностями: Необходимо создавать системы, которые изначально не имеют способности к опасным действиям. Например, ИИ-оракул, обладающий сверхразумом только в одной области (например, математике).
- Выбор мотиваций (Загрузка ценностей): Разработка системы, которая сделает агента послушным нашей воле (метод приручения) или полагается на косвенный подход к определению правил и целей (метод косвенной нормативности). Например, можно работать с системой, которая уже имеет человеческую или близкую к ней мотивацию, после чего ее когнитивные возможности увеличиваются до уровня сверхразума (метод приумножения).
Для реализации этих мер нам требуется не только достичь высокого научно-технического опыта, чтобы нейтрализовать взрывное развитие, но и подняться на высочайший уровень профессионализма.
Мы должны влиять на направление исследований и их контекст, открывая и закрывая вентиль финансирования. Важно понимать, что в стратегически важных технологических схватках разрыв между лидером и преследователем может составлять всего несколько месяцев или лет.
Таким образом, когда ИИ достигнет человеческого уровня, он перестанет быть просто инструментом и превратится в силу, способную решать судьбы мира. Этот сценарий требует, чтобы мы перестали воспринимать его через призму фантастики и сосредоточились на практической загрузке ценностей и этическом контроле, чтобы обеспечить, что пробудившийся гигант будет не завоевателем, а партнером и созидателем.