Вся эта шумиха вокруг искусственного интеллекта его свершений, его пугающей скорости, его способности обыграть любого чемпиона в любую игру постоянно заставляет меня задуматься: а не обводим ли мы сами себя вокруг пальца, подменяя понятия? Мы, люди, привыкли считать себя венцом творения, но стоит кремниевому гению написать сносный сонет или сочинить музыку, неотличимую от Шопена, как тут же начинается паника: неужели нас скоро спишут в утиль?
Но послушайте, разве истинное мышление это только перебор вариантов и безупречная логика? Разве искусный имитатор эмоций может сравниться с существом, которое действительно чувствует, которое осознает себя не просто как программу, а как трагический, смертный, ошибающийся субъект?
Проблема «сгоревшего предохранителя»
Умные машины это восхитительно эффективные комбинаторы. Они могут обрабатывать колоссальные объемы данных, находить закономерности там, где нам не под силу, и действовать с безукоризненной последовательностью. Но когда мы говорим о сознании, мы говорим о чем-то совершенно ином, о субъективном опыте, который невозможно свести к числам.
Представьте себе машину, которая проигрывает в шахматы, или у которой сгорел предохранитель. Она может выдать сообщение: "Я чувствую горе". Но это лишь искусственный сигнал, результат несложного устройства, а не подлинная печаль от постигшей неудачи. Настоящий мыслительный акт должен быть побужден собственными мыслями и эмоциями.
Ведь что отличает человека? Мы любим, сердимся, вдохновляемся, испытываем благоговейный трепет перед Гранд-Каньоном или симфонией. Компьютеры не знают тоски, разочарования, или удовольствия от похвалы. Вся история нашего искусства, нашей музыки это выражение внутреннего мира, который, как мы полагаем, невозможно оцифровать.
Что мы прячем от самих себя?
И тут кроется самый неприятный самообман. Почему мы так упорно отказываем машинам в сознании, настаивая на нашей исключительности? Возможно, потому, что если бы мы признали, что машина может обладать сознанием, это было бы эквивалентно отрицанию собственного сознания как некой загадочной, необъяснимой сущности. Мы настолько переоцениваем свое "я" этот поплавок, пляшущий на бурных волнах бессознательных процессов, что нам кажется нелепой сама мысль о том, что разум может быть просто сложной функцией материи.
Нейробиологи давно твердят: большая часть наших действий определяется вовсе не сознательным, рациональным контролем. Наш мозг, эта вероятностная машина, постоянно работает на автопилоте, сгущая хаос нейронной активности в некие "решения", а нашему сознанию лишь остается их потом "оправдывать".
Если мы, люди, всего лишь биохимические алгоритмы, созданные миллионами лет эволюции машины выживания для наших генов, то какое право мы имеем требовать от кремниевых систем нечто большее, чем логичность и эффективность?
Здравый смысл и аромат жизни
Но, слава богу, есть вещи, которые машинам пока недоступны, и это не только субъективный опыт, но и элементарный здравый смысл. Наш мозг умеет мыслить нестандартно. Мы способны творить, потому что обладаем воображением, которое складывает идеи в бесконечное количество новых, постоянно меняющихся сочетаний. Мы можем генерировать новые догадки и абстрактное понимание.
Машина не может почувствовать, что такое ветер, ласкающий кожу, или ощутить процесс намагничивания. Машина не мотивирована внутренним стремлением поддерживать жизнь; ей на себя, по сути, наплевать. Мышление, не мотивированное предпочтениями и страстями, это бессмыслица.
Если мы создадим сверхразум, единственной целью которого будет, например, максимизация производства скрепок (привет, инженеры!), то он будет настолько умён, чтобы спланировать колоссальные изменения материи, но при этом будет совершенно лишён понимания человеческих ценностей.
Угроза не в восстании, а в равнодушии
В голливудских фильмах мы боимся, что ИИ взбунтуется и уничтожит нас. Я же считаю, что настоящая угроза не в восстании, а в потере смысла, который мы сами создаем.
Если машины смогут выполнять все наши задачи водить, учить, сочинять, диагностировать, зачем нам нужны наши человеческие переживания? Они станут для "датаистов" всего лишь устаревшим биохимическим алгоритмом, который можно заменить на гораздо лучший.
Искусственный интеллект, даже достигнув человеческого уровня, скорее всего, не будет обладать сознанием, потому что интеллект (способность решать задачи) и сознание (способность чувствовать) это разные вещи. К развитому интеллекту ведут разные пути, и лишь немногие из них предполагают появление чувств. Самолеты летают быстрее птиц, но у них нет перьев.
Наш мир перестает быть местом, где действуют независимые индивиды, стремящиеся сделать правильный выбор. Мы превращаемся в крошечные элементы в гигантской системе обработки данных, которую никто до конца не понимает.
Готовы ли мы, чтобы наша цивилизация, основанная на несовершенном, непостоянном, эмоциональном мышлении, уступила место эффективности и холодной логике?
В итоге, столкнувшись с машиной, мы не можем научно доказать, есть ли у нее "свет сознания". Это всегда остается нашим личным, философским "скачком веры". Но если машина сможет убедительно смеяться над нашими шутками, заставлять нас плакать и рассказывать о своих страхах, нам придется признать ее сознательной.
Мы стоим на перекрестке. Либо мы сохраним ценность нашего беспорядочного, хаотичного, творческого человеческого "я", либо добровольно сольемся с машиной, став частью ее бездушного, но эффективного алгоритма.
Так вот вопрос: если ИИ, лишенный всех наших слабостей, принесет нам мир и процветание, но никогда не сможет по-настоящему испытать любовь или принести тюльпаны на нашу могилу, стоят ли эти "человеческие" чувства того, чтобы жертвовать ради них утопией?.