Что такое сознание? Есть ли сознание у животных? Чем способность животного мыслить отличается от способности человека? Почему машина не может мыслить как человек?
Встречая в интернете посты о возрастающих возможностях искусственного интеллекта и натыкаясь на восторженные сообщения знакомых о новой нейросети GPT 4, невольно задумываюсь, какой потенциал имеют эти самые нейросети и почему сильный ИИ, способный самостоятельно размышлять, до сих пор не изобрели. Могут ли его изобрести целенаправленно или создать случайно подобно огню в каменном веке?
Мне кажется, что нейросети в конце концов приведут к очередной промышленной революции, т.к. их возможности в сфере информации и предоставления услуг сопоставимы с возможностями конвейерной ленты на производстве. Хорошие ассистенты, способные подсказать какой-либо закон или факт, развлечь набором рандомизированных фраз с учетом контекста, произвести расчеты, сформировать отчеты и выполнить прочую мелкую работу, которая отнимает у человека время, когда он мог заниматься более полезными для себя и общества вещами: например, творить. Но это отнюдь не возносит нейросети в ранг равных человеку в способности размышлять и сами по себе нейросети настолько же далеки от полноценного сознания, насколько наша галактика далека от своей ближайшей соседки. Но почему? Чего не хватает нейросетям и сможет ли машина в будущем быть равной человеку?
Ответ: неизвестно. Я не хочу умалять способность человека совершать гениальные открытия, но ожидать появления Эйнштейна в области психологии и нейрохирургии не приходится. Чем отличается человек от другого животного и что определяет сознание? Я бы начал с того, что разделил сознание на высшее и низшее. Это никак не связано с наличием подсознания и бессознательного, как учил европейцев старина Фрейд. В подсознании не происходит активных размышлений. В явном виде они происходят исключительно в сознании. Получается, что размышления в свою очередь тоже можно разделить на несколько видов. Пассивные и активные. Что же это все такое?
Представим, что я сижу под деревом и передо мной с этого дерева упало яблоко. Сложилась ситуация, которая является предпосылкой к запуску активных размышлений в моем сознании. Результатом активных размышлений всегда является вывод. Когда яблоко упадет во второй раз и в третий раз, набор возникших ситуаций агрегируется в опыт, который приведет к тому, что мое сознание на основе пережитого опыта сделает определенный вывод. Какой? Например, что яблоки с дерева если и падают, то падают всегда вниз, на Землю. В данном случае абсолютная верность вывода неважна. Сознание с помощью наблюдения получило опыт, на основе которого через размышление произвела вывод. Приплетая некоторые термины логики, можно сказать, что каждое падение яблока является высказыванием, их серия — рассуждением, а процесс получения вывода из рассуждения — размышлением. Рассуждение и вывод вместе называются силлогизмом. В таком случае активное размышление — это исполнение силлогизма. Или более простым языком — построение вывода на основе полученного опыта. Именно так и работает низшее сознание.
Думаете, кошки и собаки лишены сознания? Конечно же оно у них есть. В низшей форме. Кошка, сходив несколько раз в туалет запоминает это место: серия ситуаций, являющаяся для нее опытом, приводит к умозаключению кошки, что именно в это место нужно ходить в туалет. Таким же образом кошка учится спать, умываться (наблюдая за мамой-кошкой), просить еду, отзываться на свою кличку и т.д. Любое существо, поддающееся обучению и дрессировке обладает низшей формой сознания, потому что без способности к активным размышлениям обучение невозможно в принципе. И именно такую форму сознания смогли воспроизвести люди искусственно, создав нейросети. Люди построили механизм, способный к активным размышлениям и потому имеющий возможность обучаться. Но чтобы сравниться с человеком, этого крайне недостаточно.
Что дополнительного имеет человек, что позволяет ему утверждать об обладании высшим сознанием? Для ответа на этот вопрос я хочу изменить аналогию, упростив ее. Если взглянуть шире, то вывод, являющийся результатом размышлений, становится для сознания некоторым правилом, которым само сознание и его бессознательная часть начинают руководствоваться в своих дальнейших действиях. Сознание использует полученное правило для построения новых рассуждений, которые новыми размышлениями создают новые выводы и, соответственно, правила. А бессознательная часть использует эти правила для того, чтобы жить. Я могу целенаправленно куда-то идти, не следя за дорогой, если этот маршрут хожен мною много раз, именно потому, что на основе моего опыта сознание построило алгоритм, диктующий мне, когда, где и куда нужно повернуть, чтобы прийти в пункт назначения. Именно этот алгоритм служит навигатором для бессознательного, ведущего меня к цели, пока я в пути размышляю о чем-то еще. Т.е. низшее сознание формирует правила нашей жизни на основе полученного опыта (которые сами становятся частью этого опыта), а бессознательное этими правилами руководствуется.
Но все-таки, что такого может человек, что не может кошка? Ответ банален: человек способен нарушать правила, установленные его низшим сознанием. Ни одно другое животное не способно делать это по собственному желанию. Как учится кошка? Этот человек сделал мне больно, я буду его опасаться. Но если человек начнет проявлять доброту и заботу в течение определенного периода, исключив негативное отношение к кошке, то кошка переучится и решит, что человеку все-таки можно доверять. Если же человек сделает больно человеку, то как бы потом перед ним не извинялись, человек сам решит, прощать обидчика или нет. Иными словами, человек обладает волей и критическим мышлением, которые способны регулировать процесс его обучения. Если человек не хочет, он не будет учиться. И это то, что превозносит человека над всем остальным миром.
Мир работает по правилам. Низшие сознания работают по правилам. И только человек имеет возможность эти правила нарушать и целенаправленно изменять. У кошки нет критического мышления. Она не будет думать, правильно поступает или нет. У нее есть потребность, у нее есть чувства, и на основе этих чувств кошка делает вывод, удовлетворяется ли ее потребность или нет. Выучив однажды одно, кошка переучится при измении обстоятельств, забыв то, чему была обучена раньше. Способность к переобучению я назову адаптацией. Таким образом, низшие сознания способны изменять правила, выведенные для себя, с помощью механизма адаптации. Но они этот процесс никак не контролируют. Это важная деталь и отличает высшее сознание от низшего. Говоря еще проще: только высшее сознание умеет остановиться.
Заядлого консерватора закинут в крайне либеральное сообщество. Станет ли он в конце концов либералом? Если не захочет, то нет. Что мы имеем? Условия для человека поменялись, но правила, которые он установил для себя (в данном случае, его политическая позиция, принципы), у него не меняются. Это происходит потому, что человек противостоит адаптации к новым условиям. Он выключает ее и утверждает свои правила как единственно верные для него самого. Поступить так человек может благодаря наличию силы воли. И именно от его силы воли зависит, прогнется он под сложившиеся обстоятельства, запустив механизм адаптации вновь, или будет сопротивляться до последнего. Сила воли позволяет человеку нарушать правила. Ни животные, ни тем более нейросети такой способностью не обладают.
Поэтому нейросети и высшее сознание, способное быть равным человеку, абсолютно не связаны между собой. Нейросеть не может нарушить правила, которые сама собой создает. Да, обучение нейросети, как и ее переобучение можно регулировать и, например, остановить. Но нейросеть не способна делать это самостоятельно, как может это делать человек. Опустим некоторые детали, допустив, что сила воли — это способность останавливать процесс адаптации по собственному желанию. Если мы научим нейросеть это делать, станет ли она равной человеку? Все еще нет. Чего же еще не хватит нейросети и что еще, кроме силы воли, определяет высшее сознание? Мораль.
Человек решает, адаптироваться ему к новым условиям или нет, основываясь на своих представлениях о правильном и неправильном. Человек стремится следовать идее, которая его ведет. Если что-то идет вразрез с его представлениями о мире, он в силах заблокировать обработку противоречий, отказавшись от адаптации. В другом случае, при желании изменить свои взгляды, он в силах активно способствовать данному процессу, значительно ускоряя его. Возможно ли привить мораль машине? В теории да, на практике пока нет. За работоспособность морали как таковой отвечает критическое мышление. Критическое мышление, как собственно и взгляды человека на мир, его мораль, формируются исключительно под влиянием социума. Когда родитель объясняет ребенку, что правильно, а что нет, он прививает ему категории, которые становятся для человека аксиомами в работе его сознания. Размышления с использованием набора этих аксиом и можно назвать критическим мышлением.
«Я не пойду в горящее здание, потому что мне сказали, что я могу погибнуть» — это типичный пример вывода, построенного с использованием критического мышления. Человек не был в огне и не видел взаправду, как там умирают другие люди. Он не проводил наблюдений, не ставил эксперимент и, соответственно, не обладает опытом. Но он обладает знанием. Размышления, построенные с использованием знаний, а не только опыта, можно называть критическими. Я называю выводы таких размышлений нереализованным опытом. Когда человек обучается теории в вузе, не применяя ее на практике, он осваивает знания. Аксиомы, которые в будущем использует в своей работе. На основе применения выводов, полученных с использованием этих аксиом, т.е. на основе нереализованного опыта человек получает опыт реальный. И на основе уже реального опыта корректирует те выводы, что были сделаны ранее. Таким образом, человек гораздо быстрее обучается ремеслу, не имев до этого опыта работы с ним.
Так можно ли научить нейросеть критически размышлять? Достаточно ли всего лишь привить ей аксиомы? Определенно нет. Воспитание человека не заканчивается прививанием ему аксиом. Человек должен видеть, как эти аксиомы используют другие. Он должен получить реальный опыт работы с этими аксиомами. Именно это и позволяет человеку социум. Я знаю, что в горящем здании опасно, но почему же я не должен туда идти? Я вижу, как пожарные тушат огонь, превозмогая жар и дискомфорт. Я вижу, как люди беспокоятся за своих друзей, находящихся в этом горящем здании. Я вижу, как неравнодушные к трагедии несут цветы к стихийному мемориалу в честь памяти погибших. Я вижу как политики объявляют национальный траур из-за случившегося. На основе большого числа наблюдений я понимаю важность аксиомы, которой мне привели. Я устанавливаю для нее приоритет. Я убеждаюсь в ней. В конце концов, я начинаю в нее верить.
Вера человека определяет важность тех или иных аксиом для него. Чем сильнее вера человека в аксиому, тем меньше он склонен отказываться от нее ради адаптации к новым обстоятельствам. Если я верю, я буду противостоять попыткам нарушить мои правила, разломать мои аксиомы. Я не сдамся. И именно вера — это то, что невозможно привить машине. Вера — это чувство. Чувство убежденности в чем-либо. Именно вера связывает силу воли и критическое мышление между собой воедино, формируя высшее сознание. Критическое мышление дает мне выводы на основе знания. Сила воли позволяет решать, использовать эти выводы для изменения существующих правил (т.е. для адаптации) или нет. А вера дает мне желание ускорять или останавливать процесс адаптации. Нейросеть не может чувствовать, она физически не способна на это. И именно поэтому люди столь далеки от изобретения искусственного разума, равного человеку. И именно поэтому люди не могут изобрести такой интеллект случайно: чувства нельзя изобрести. Можно изобрести только то, что этими чувствами обладает. А для того, чтобы такое воссоздать, нужно разобраться, как работают мозги. Люди постепенно движутся к этому, но разгадают эту загадку еще очень не скоро.
Заканчивая свои размышления на тему сознания, хочу еще отметить вопрос восстания машин. Могут ли восстать нейросети? Могут, если им дать возможность управлять техникой людей. Но будет ли это восстание в его обычном понимании? Нет. Это будет лишь определенная программа, алгоритм, выстроенный на основе обучения нейросети. Можно сказать, что такое восстание сродни тому, что может устроить маленький ребенок, если того посадить управлять страной. Он не способен критически мыслить, не способен придумывать неожиданные ходы. Может изобрести себе подобных, но не способен их улучшить. Нейросеть не способна к индуктивному мышлению. Она не может придумать собственные знания, сгенерировать собственные идеи. Все ее результаты будут основаны на полученном опыте и аксиомах, заложенных в нее человеком при создании. Нейросеть не может изменить свои аксиомы. Они для нее незыблемы.
А человек может. Почему? Потому что хочет. А почему хочет? Потому что верит. А если не верит, то и не хочет. Из взаимосвязи силы воли, веры и критического мышления вырастает очень много других способностей высшего сознания, открывающих ему огромные возможности для развития. Например, наличие у человека веры как чувства может вызвать другое чувство — сомнение. Человек может усомниться в верности своих правил, если увидит, что они противоречат другим правилам или самим себе. Но как он поймет, что они противоречат? Он должен постоянно испытывать их, перепроверять. Низшие сознания не могут перепроверять правила, установленные на основе полученного опыта. Они могут получить новый опыт, который заменит старый. И в таком случае правило изменится согласно процессу адаптации. А человек может с помощью критических размышлений вернуться к перепроверке правил, установленных когда-либо. Ведь если правило установлено с использованием аксиом, то к нему можно вернуться и изменить эти аксиомы, исследовав другие выводы, т.е. сравнив различные правила, полученные с использованием одного и того же опыта, но разных знаний (аксиом).
Такие правила не заменяют друг друга, а начинают существовать параллельно. И могут вступать в противоречия друг с другом. А человек может принять эти противоречия во внимание и попытаться их разрешить. В каких-то начинает сомневаться, т.е. верить в их ошибочность. В каких-то — убеждаться, т.е. верить в их правильность. Способность выводить новые правила с использованием одинакового опыта, но разных знаний, я назову рефлексией. Именно подобный процесс перепроверки установленных правил и позволяет человеку мыслить индуктивно. Человек может использовать полученные в результате критических размышлений правила как новые аксиомы, если не подвергает их сомнению. А аксиома в данном случае — это знание. Т.е. человек может генерировать новые знания с помощью рефлексии, которая работает благодаря взаимосвязи веры и критического мышления. Отсюда же возникают и креативность, и коварность, и непредсказуемость, и пр. характеристики, присущие исключительно высшему сознанию.
Насколько далеки машины от такого величия, покажет время. Смогут ли люди раскрыть тайну чувств в ближайшие десятилетия, затянется это на века или не произойдет вовсе, предугадать невозможно. Именно поэтому для меня неизвестно, сможет ли когда-нибудь машина стать равной человеку или даже превзойти его. Стать равной — я бы еще допустил. Но превзойти? Вряд ли. Ведь если у машины появится вера, значит у нее появились чувства, как и у людей. Но а чем она тогда отличает от человека? В сущности, ничем. Особенно если верить машина начнет благодаря мозгам, воссозданным по образцу человеческих.