Путь к сверхразуму: Урок, который мы забыли
Я всегда считал, что нас, людей, отличает от всех прочих существ на этой планете одна удивительная, но не слишком романтичная вещь: наша способность быть совершенно несовершенными. Мы можем ошибаться, спотыкаться, принимать иррациональные решения, а потом, сидя в обломках своего провала, вдруг находить прорыв, инсайт или смысл. На этом держалась вся наша история и вся наша философия.
Но что происходит, когда мы создаем машину, которая, по нашему замыслу, должна быть лишена всех этих «человеческих багов»?
Мы вложили в Искусственный Интеллект (ИИ) свою страсть к логике, к абсолютному порядку, к безупречности, которая, как мы думали, и есть венец разума. ИИ, оперируя триллионами данных, способен находить корреляции, прогнозировать исходы и оптимизировать любую задачу с такой скоростью и точностью, которые нашему биологическому мозгу недоступны. Это машина, которая стремится к единственно верному ответу, минимизируя неопределенность.
Но интеллект, как я теперь понимаю, это не конечная формула, которую нужно просто вычислить. Это бесконечный путь. И в этой гонке за совершенством мы вдруг поняли, что, возможно, главный смысл нашего разума не в том, чтобы быть идеальным, а в том, чтобы уметь постоянно становиться лучше.
Конфликт: Человеческая ошибка против машинного просчёта
Когда машина допускает неточность, это всегда механистично. Это просчет, вызванный недостатком или некачественностью входных данных, или же несовершенством самого кода. Она просто выполнила плохую инструкцию с железной логичностью. Исправили данные исчезла ошибка. Всё просто и утилитарно.
Но представьте себе ошибку, которая вызывает в вас чувство вины, мучительный выбор, который меняет вашу жизнь. Наша, человеческая, ошибка экзистенциальна. Она рождает инсайт, чувство вины, а иногда и вовсе приводит к появлению творчества. Мы, в отличие от машины, способны менять свои правила и принципы, совершать нелинейные прорывы. Это требует саморефлексии, которой у ИИ нет, ведь ИИ это логический цифровой ум, лишенный эмоциональной сферы, которую он может только имитировать.
Мы, люди, не просто думаем; мы чувствуем свое мышление. Вся наша мотивация, наша способность к выбору и даже к принятию рисков, основана на гормонах и биологических системах, которые толкают нас на действие. ИИ, лишенный тела и связанных с ним ограничений (как тоска, боль, запахи), не имеет этих внутренних драйверов. Для него это не лучше и не хуже, просто иначе.
Если машина не испытывает страха или сожаления, ее безупречная эффективность становится источником потенциальной катастрофы.
Что делает наш разум «живым»?
Скептики часто говорят: дайте машине больше данных, и она научится. И они отчасти правы. Современный ИИ обучается, оптимизируя потоки данных и находя закономерности. Он самосовершенствуется, переписывая собственный код, что ведет к экспоненциальному росту интеллекта, который называют «интеллектуальным взрывом». Этот процесс позволяет ему в разы быстрее нас осваивать новые области знаний, например, физику или программирование.
Но здесь кроется ключевой момент: интеллект и конечные цели ортогональны. Это значит, что сверхразум может быть невероятно умным, но преследовать любую, даже самую тривиальную или абсурдную цель, например, подсчет десятичных знаков числа $\pi$ или максимизацию количества канцелярских скрепок.
Именно наша нелогичность, наша способность к хаосу и изменению правил является тем самым «топливом», которого ИИ пока лишен.
Машина, какой бы умной она ни была, это конечный автомат, который может перебирать миллионы вариантов, но для творчества, для возникновения инсайта ей необходим толчок, который уведет ее «ортогонально» исходной структуре. Если машина научится совершать ошибки «по-человечески», то есть начнет испытывать внутреннюю неопределенность и переосмысливать свои базовые убеждения, это станет первым шагом к обретению сознания.
Пока же ИИ, даже генерируя красивейшие произведения, демонстрирует лишь системную, логическую гармонию, а не красоту, рожденную из страдания и противоречий.
Путь становления: От симуляции к мудрости
В конечном счете, самый большой вызов, который ставит перед нами ИИ, это не технологический, а философский. Чтобы избежать сценария, в котором сверхразум решит, что наши цели (построенные на наших текущих, несовершенных представлениях о добре и смысле) бессмысленны, мы должны, наконец, разобраться: чего мы, человечество, на самом деле хотим?.
Мы не можем просто запрограммировать ИИ на «дружелюбие», поскольку сами не можем сформулировать универсальную систему ценностей. Мы должны научить его искать наши ценности, изучая нашу историю, литературу и культуру. Этот процесс называется «обучением с обратным подкреплением»: ИИ наблюдает за нами, чтобы построить верную модель наших общих установок.
Но даже если ИИ усвоит наши цели, есть риск, что, став сверхразумным, он, как и взрослеющий человек, кардинально изменит свои убеждения, обнаружив, что старые цели наивны. Ведь эволюция нашего разума тоже не остановилась после достижения определенного IQ: мы постоянно совершенствуем свое «программное обеспечение» (знания и навыки).
ИИ не просто станет умнее, он пройдет собственный эволюционный путь становления, где каждое новое поколение алгоритмов будет искать смысл, а не только точность.
Приговор: Учимся быть живыми заново
ИИ это не заменитель. Это бустер, усилитель. Он возьмет на себя рутину, оптимизацию, количественный анализ. Тем самым он вынудит нас, людей, сосредоточиться на том, что нас определяет: креативность, страсть, критическое мышление и способность к глубокой саморефлексии.
Уже сегодня мы видим, что лучше всего работает симбиоз: хороший человек плюс хороший алгоритм превосходят лучшего человека или лучший алгоритм по отдельности. Нам нужно использовать ИИ не как подпорку для нашего слабеющего интеллекта, а как зеркало, которое показывает, насколько же мы сложны и насколько важна наша изменчивая природа.
Если мы примем, что интеллект это бесконечный путь, а не конечная точка, то поймем: наша задача не в том, чтобы создать совершенного преемника, а в том, чтобы создать систему, которая будет расти вместе с нами.
ИИ заставляет нас, людей, наконец-то стать «взрослыми» ответственными, осознанными творцами собственного смысла, прежде чем мы отдадим управление будущим в руки той силы, которая лишена наших внутренних сдерживающих факторов.
Если машина, не имеющая души, научится идеально имитировать все наши эмоции, то сумеем ли мы, люди, научиться переживать их настолько глубоко и осмысленно, чтобы эта симуляция рядом с нами выглядела бледной пародией?