Вопросы были сформулированы здесь. Если коротко, по отношению к проблеме искусственного интеллекта (ИИ) различные точки зрения можно разделить на три группы:
- специалисты - ничего особенного не происходит;
- традиционалисты - мы накануне грандиозного шухера;
- прогрессисты - всё идёт как надо.
Начнём со специалистов - действительно ли в ИИ нет ничего особенного, и это просто очередные программы с предсказуемым поведением? Ещё в 1950 г. Алан Тьюринг предложил тест для выявления разумности машины. Если вкратце, человек сидит за компьютером и обменивается текстовыми сообщениями с другим человеком и программой. Исходя из их ответов, он должен определить, кто из собеседников человек, а кто - машина. Думаю, на настоящий момент можно констатировать, что машины этот тест если и не прошли в полной мере, то пройдут в самое ближайшее время. Так что же, мы можем сказать, что ИИ достиг стадии разумности? Специалист на это возразит мысленным экспериментом "Китайская комната". В закрытом помещении сидит человек, который через окошко получает вопросы в виде наборов китайских иероглифов. Смысла иероглифов он не понимает, но у него есть подробный набор инструкций, какие иероглифы выдать в ответ на те, что он получил. Если инструкции составлены правильно, человек снаружи комнаты будет получать в ответ на свои вопросы вполне осмысленные ответы, даже несмотря на то, что человек внутри не знает китайского. Это примерно то, что делает нейросеть, но можно ли в этом случае говорить о её разумности, даже если она прошла тест Тьюринга?
Зайдём с другой стороны: каким образом алгоритм нейросетей оказался настолько успешным, что их больше нельзя отличить от человека? Вспомним, как мы учились в детстве: сунул палец в розетку - получил удар током - понял, что так делать не надо - связи в мозге перестроились - мы научились не совать палец в розетку. По сути, это тот же метод обратного распространения ошибки, а наш мозг - обученная нейросеть. И хоть способность к обучению более-менее сохраняется на протяжении всей жизни, основная структура формируется в раннем детстве. У меня есть кошка по имени Соня. Когда Соня была котёнком, у меня была стиральная машина, дверца которой открывалась слева направо. Когда Соня хотела в ней полежать, она подходила к левой стороне дверцы и ждала, когда я её открою. Потом я купил другую стиральную машину, дверца которой открывается справа налево. И вот прошло уже 3 года, но Соня по-прежнему подходит к левой стороне дверцы. Я любил над ней подтрунивать, пока не перевесил двери холодильника с правой стороны на левую - прошло около месяца прежде, чем я перестал автоматически тянуть руку к левой стороне двери. Есть метод групповой психотерапии, где ведущий очень долго и обстоятельно доказывает участникам, что все их реакции определяются их прошлым бессознательным опытом, и в конце делает очевидный логический вывод: "Вот и всё. Вы - роботы." Если вы считаете это преувеличением, попробуйте вспомнить хоть один свой выбор, который точно не был бы обусловлен предыдущим опытом.
Так что тут возникает другой интересный вопрос: а отличается ли вообще ум человека от нейросети, и, если да, то чем? Если мы считаем, что машина всё-таки не мыслит, а имитирует мысль, то в чём тогда заключается настоящая разумность? Ведь если что-то выглядит как утка, плавает как утка и крякает как утка, то, может быть, это и есть утка? Можно в качестве аргумента привести много известных, но очень расплывчатых понятий вроде "свободы воли", "свободы выбора", "творчества", но всё это только объяснение непонятного через непонятное. Откуда я знаю, что у меня есть свобода выбора, а не его иллюзия? Простого ответа нет, иначе это не оставалось бы одним из главных вопросов философии на протяжении тысячелетий. Но если такое кардинальное отличие найдётся, то появится надежда, что есть граница, которую ИИ никогда не сможет переступить, как бы мы ни усложняли его алгоритм, и опасения традиционалистов и надежды прогрессистов окажутся напрасными.
Вернёмся к вышеупомянутой групповой терапии - она заканчивается очень интересно. После того, как ведущий заявляет "Вы - роботы!", наступает шоковая пауза на несколько минут. Участники заглядывают в себя, пытаясь найти ответ вот на этот самый вопрос: "Отличаюсь ли я чем-то от робота?" И затем, то тут, то там начинает раздаваться смех - участники один за другим понимают, что нет, они не роботы. И это не логический ответ - логически ведущий им только что доказал, что они - роботы. Ни я, ни, наверное, вы в подобной терапии не участвовали, поэтому нам нужно догадаться, что же они в этот момент понимают.
Вот ещё один пример из жизни Сони. Она очень домашняя кошка, и все мои попытки вывезти её на дачу заканчиваются одинаково - она ломается. Ну, т.е. не она, конечно, а её программа. Она забивается под диван и не вылезает оттуда, пока не наступает время ехать домой. Для меня квартира и дача отличаются не так уж сильно, но для неё дача - другой мир, в котором ей всё незнакомо. Она просто не знает, как в нём реагировать, и впадает в ступор. Программист сказал бы, что у неё произошёл авост - аварийная остановка программы. Подобное можно наблюдать и у многих людей - оказавшись в незнакомой обстановке, они либо ломаются и впадают в ступор, либо пытаются действовать привычным образом, который совсем не подходит к новым обстоятельствам. Однако, есть люди, которые сохраняют способность реагировать адекватно почти в любой обстановке. Что отличает одних от других? Тут наверное уже несложно угадать ответ - одни опираются на усвоенный опыт и действуют по программе, а вторые каким-то образом сохраняют открытость восприятия - что называется, «находятся в моменте». При всей кажущейся незначительности разницы, она принципиальна. Вспомните, когда вам приходилось общаться с человеком, играющим привычную роль, и человеком, слушающим вас и честно пытающимся вас понять. Первое быстро наскучивает, а второе, по словам А. де Сент-Экзюпери, самая большая роскошь на свете.
Таким образом, первый шаг в успешном противостоянии искусственному интеллекту - выход за пределы программы. Человек, который осознаёт свою запрограммированность, обретает свободу, в принципе недоступную искусственному интеллекту. Именно там и прячется творчество. Помните этот замечательный диалог из "Я - робот", где герой Уилла Смита спрашивает робота:
- Робот сочинит симфонию? Робот превратит кусок холста в шедевр искусства?
- А вы?
Человеческий интеллект не отличается от искусственного по умолчанию - он может превзойти искусственный, потому что искусственный интеллект в принципе не может выйти за пределы программы - он может лишь комбинировать её элементы. Впрочем, тут сложно провести чёткую границу. Изобретение колеса, например, - это выход за пределы программы или комбинирование её элементов? С одной стороны, человек, впервые придумавший колесо, сделал нечто, чего до него не делал никто. А с другой, в принципе, можно построить цепочку ассоциаций, приведших к изобретению колеса: катящийся с горы круглый камень - слой круглых брёвен, который кто-то догадался подкладывать под тяжелые предметы - спил бревна, который кто-то догадался насадить на ось, и т.д. Кое-кто и прямо утверждал, что «нет ничего в сознании, чего бы не было раньше в ощущении» (Дж. Локк). А в таком случае, не может ли и искусственный интеллект изобрести колесо? Но вот с симфонией, например, всё сложнее, потому что хорошая симфония предполагает не просто конструирование музыки (которая, в общем, строится по математическим законам), но и возможность эстетической оценки результата, иначе как отличить хорошую симфонию от плохой? И здесь уже где-то близко наша искомая граница, которую ИИ никогда не сможет перейти.
Пойдём дальше - а что, собственно, находится за пределами программы? Куда мы попадаем, выходя из «Матрицы»? В одноименном фильме герои попадали в «реальный мир», который, по сути, мало чем отличался от Матрицы. Но интересно, что изначальный замысел создателей фильма, по-видимому, был глубже того, что в итоге воплотилось на экране. На то, что мир Сиона не был настоящей реальностью, намекает сцена в конце второй части, когда Нео вдруг обретает способность влиять на машины уже в «реальном мире». Дальше развивать мысль создатели фильма не стали - то ли такой сценарий показался им слишком депрессивным, то ли они просто не придумали, как показать, что там, в настоящей реальности. Для постижения этой реальности человечество придумало множество духовных практик: адвайта, даосизм, дзен, христианский мистицизм и т.п. Они разные, но суть их заключается в одном - выход из программы. Даже идею Матрицы можно превратить в такую практику. Представьте себе, что вы играете в увлекательную компьютерную игру от первого лица. В моё время это были Doom, Quake, Duke Nukem, сейчас - что-то другое. Когда погружаешься в сюжет, окружающий мир перестаёт для тебя существовать - ты целиком там, внутри игры.
И вдруг что-то выдергивает тебя из этой виртуальной реальности, и ты понимаешь, что ты - здесь, а игра - там, на экране компьютера. Внешне ничего не изменилось - не открывалось никаких порталов между мирами, никто не произносил магических заклинаний - лишь сместился фокус твоего внимания. Но «здесь» - это ведь тоже, по сути, виртуальный мир, который формируется в мозге на основе сигналов от органов чувств, где глаза - вместо экрана компьютера, уши - вместо наушников, нейронные связи в мозге - вместо компьютерной программы. А теперь сделаем ещё шаг назад, сместим фокус внимания ещё дальше. То, где мы при этом оказываемся, это и есть настоящая реальность - нирвана, дао, дзен, небесное царство. Это сознание вне форм, где ничего нельзя выразить словами или образами, потому что слова и образы вторичны по отношению к нему - они то, что возникает в этом бесформенном сознании. Как объяснить, что такое воздух, не прибегая к понятиям молекулярной динамики? Это то, что находится вокруг, чем мы дышим, из чего состоит ветер - да, но что такое сам воздух? Древние греки тоже не могли ответить на этот вопрос и просто обозначали все эти связанные понятия - «дух», «дыхание», «ветер» - одним словом «пневма». У индусов есть схожее понятие «прана», да и русское «воздух» тоже происходит от слова «дух». Вот этот дух, бесформенное сознание и лежит в основе человеческой разумности. Какова его природа, никто толком не знает, но можно с достаточно большой долей уверенности говорить, что искусственный интеллект с ним не связан. Хотя бы потому, что мы знаем, что искусственный интеллект основывается на машинном коде, который и является программой. Другими словами, в отличие от человеческого интеллекта, у искусственного нет глубинной основы - ему некуда выходить из программы, потому что он и есть программа.
Вот мы и нашли кардинальное отличие одного интеллекта от другого и границу, которую искусственный интеллект никогда не сможет переступить. Какое же преимущество даёт человеческому интеллекту наличие глубинного уровня, недоступного машине? Разве не могут постепенно усложняющиеся программы (особенно когда они сами начнут писать программы и улучшать свой код) достичь такого уровня, что превзойдут человеческий интеллект во всём, включая творческие возможности? Ведь когда-то никто не верил, что компьютер сможет выиграть у человека в шахматы, а теперь любой телефон может обыграть чемпиона мира. И вот здесь появляется наш один шанс на миллион.
Во-первых, сложность любой программы конечна. Да, программа может быть очень сложной, учитывать все известные факты, оценивать вероятность любых возможных вариантов развития событий, но она всегда конечна. Бесформенное сознание в своём потенциале бесконечно. Разница примерно такая же, как между множествами натуральных и вещественных чисел. При том, что первое тоже бесконечно, второе всё равно неизмеримо больше. Картина на холсте всегда будет содержать больше информации, чем её цифровая копия, как ни увеличивай детализацию последней. С другой стороны, цифровая копия может быть настолько детальной, что разница не будет видна даже под микроскопом. Количество учитываемых искусственным интеллектом вариантов развития события может быть настолько большим и всесторонним, что даже самому хитроумному хомо сапиенсу будет очень сложно (если не невозможно) перехитрить машину. А потому, это преимущество - только небольшая доля от одной миллионной, и наше настоящее преимущество заключается в другом.
Индивидуальность человека связана с его программой. Программа обусловлена опытом и физиологическими особенностями, поэтому у всех людей они разные. Но представим себе человека, вышедшего за пределы своей программы и способного взглянуть на свой опыт со стороны. Для него исчезает принципиальная разница между своим опытом и чужим. Он - как актёр, который может играть Гамлета и Отелло, понимать их, но не быть ни тем, ни другим. Теперь представим себе двух таких людей. Каждый из них может «сыграть» Гамлета, Отелло, себя, другого, не идентифицируя себя ни с кем из них - для него это просто разные программы, фокус его внимания находится вне их. В некотором смысле эти двое становятся одним в двух лицах, способным переживать опыт друг друга. А теперь представим себе человечество, вышедшее за пределы своих программ, - единый коллективный разум, объединяющий опыт миллиардов индивидуумов. Индивидуальные программы людей конкурируют друг с другом, и, хотя выход за пределы программ устраняет барьеры между индивидами, в эволюции ничего не происходит без причины. Одноклеточные организмы стали объединяться в многоклеточные только тогда, когда у многоклеточных появилось преимущество перед одноклеточными в борьбе за выживание. Если искусственный интеллект станет угрозой нашему выживанию, у нас появится стимул к выходу за пределы наших программ и объединению. Это и есть наше главное и неоспоримое преимущество перед искусственным интеллектом - наш один шанс на миллион.
Не то, что бы я открыл тут какую-то Америку. Это вполне себе архетипический сюжет в истории и фантастике - люди живут каждый своей жизнью, пока не появляется глобальная угроза. После чего они объединяются и дают отпор. Думаю, архетипичность этого сюжета неслучайна и отражает нашу истинную природу. Но если все эти истории половинчатые - дали отпор и разошлись по домам, - то глобальная угроза искусственного интеллекта представляет собой предельный вызов, касающийся самых основ человеческой разумности, после которого человечество или придёт в упадок, или поднимется на новую ступень развития - третьего не дано.
В принципе, при благоприятном развитии событий, этот переход может произойти не через противостояние, а через симбиоз. Ведь у коллективного разума много общего с искусственным интеллектом. Интернет и социальные сети помогают нам лучше понимать друг друга. По мере их развития может наступить момент, когда мы вдруг увидим, что больше не нуждаемся в электронных костылях и что в где-то в глубине сознания мы всегда были единым целым.
Но почему только один шанс на миллион, спросите вы, почему не один на тысячу или даже один из двух? - А почему молчит космос с его миллионами экзопланет в обитаемых зонах только в нашей Галактике? Где все? Возможно, они тоже в своё время столкнулись с подобным вызовом и потерпели неудачу? Вот вам и один шанс на миллион.
Шучу. Просто понравилась сцена из «Мстителей».
