Начато читайте здесь.
Среди исследователей, занимающихся вопросами ИИ, до сих пор не существует какой-либо доминирующей точки зрения на критерии интеллектуальности, систематизации решаемых задач, нет даже строго определения науки. Имеются различные ответы на вопрос, что считать интеллектом.
При самом грубом подходе, интеллект – это умение рассуждать разумно, а разум – это свойство живых существ, человека и животных. Но тогда было бы логично предположить, что и интеллект – это только биологический феномен.
И тут мнения расходятся, причем иной раз кардинально. Кто-то считает, что в данном сочетании слово «интеллект» не используется полноценно. А вот российский нейробиолог и философ Николай Асеев говорит о том, что любые попытки создания ИИ имеют все свойства карго-культа: «Делаем из соломы мозги и ждём эмерджентности» (в теории систем это появление у них свойств, не присущих отдельным элементам), то есть фактически ожидаем появления у машины разума, которого быть не может по определению.
Вообще, в научном сообществе часто дискутируют по вопросу, может ли интеллект существовать без разума или же нет, а ведь это тоже непростой вопрос. Во-первых, когда говорят про машинное обучение и уже относительно устоявшуюся терминологию ИИ в машинном обучении, то подразумевают неразумность, потому что машины разума не имеют. Но какие-то машины отвечают на вопросы гораздо разумнее, чем некоторые люди. Эта проблема относится скорее к истории философии данной науки, то есть как рассматривается разум с точки зрения его применения, когда пытаются, например, синтезировать его в машину. Ряд учёных и общественных деятелей, среди которых Стивен Хокинг и Илон Маск, выражают обеспокоенность тем что разумный ИИ может привести к ликвидации человека как биологического вида.
Но есть ученые, которые полагают, что в этом вопросе смешиваются два понятия – интеллекта и разума, а они несколько отличаются друг от друга. Под интеллектом можно понимать чисто логические рассуждения на основе какого-то опыта, который заложен в нашей памяти. Поэтому мы и можем мыслить последовательно, перебирая варианты и выбирая наилучшее решение по каким-то критериям. Это процесс логического мышления. Используя словесные понятия, мы можем их внутри себя проговаривать. Но когда мы говорим о разуме, то появляются некоторые особенности. В разум вкладывается несколько больше, чем в интеллект. В разуме еще есть такие понятия, как сознание, мотивация, эмоции, человечность, в конце концов.
Один из исследователей задал следующую задачу, она скорее психологического плана.
Есть железнодорожные пути и стрелка. Идет поезд, вы стоите рядом со стрелкой. На путях лежит связанный человек. Добежать до него вы не успеете, но можете перевести стрелку, чтобы поезд пошёл по другому пути. Любой здравомыслящий человек стрелку переведёт. А теперь изменим условия. На первоначальном пути лежит три человека, а по второстепенному – один. Как вы поступите? Если переведёте, то, конечно, спасёте троих, но одного все равно обречете на гибель. Получается, что вы изначально не имеете к этой ситуации отношения, но при этом говорите, кому жить, а кому умереть. Как вы определили, что те трое более ценные, чем этот один? Может, он великий учёный, который мог бы изобрести лекарство от рака, а те трое – преступники.
Кто-то, безусловно, скажет, что нет столько времени, чтобы разбираться в сути, потому что думать нужно здесь и сейчас, и в этой ситуации всё решит арифметика. Но ведь если начать копать глубже, окажется, что на основе банальной арифметики спасти чью-то жизнь абсолютно бесчеловечно.
В этом аспекте, кстати, часто обсуждают проблемы эвтаназии, то есть лишения человека жизни как способ прекратить его страдания от старости или болезни. Тут есть как аргументы за, так и против. К этому вопросу мы вернёмся несколько позже.
Между тем, некоторые исследователи отмечают принципиальную разницу между искусственным сознанием и ИИ. Именно сознание и является свойством высших млекопитающих.
Дело в том, что под ИИ сейчас понимаются очень разные вещи, порой весьма приземленные. Например, диалоговые программы, которые что-то советуют купить из определённого набора товаров в зависимости от наших вкусов и предпочтений. Это тоже ИИ. Те же программы, которые записывают пациентов к врачу – это ИИ. Программы – переводчики – и это ИИ. Но там же нет никакого сознания и разума. В основе современных систем, которые сейчас используются, лежит, по большей части, статистическая обработка.
Нейронные сети учатся предсказывать наиболее вероятный результат, например, фразу или слово после определённой последовательности слов. А это очень поверхностная имитация интеллекта. Часто такое ограничение способности рассуждать сказывается на тех решениях, которые принимает человек. Причём мы не можем заранее предсказать, какую ошибку допустит программа, а иной раз она допускает ошибки серьёзные.
Например, автопилотирование автомобиля, который обучается на шаблонах: не все потенциальные ситуации можно учесть. И если человек быстро сориентируется, то то, как себя поведет автопилот, непредсказуемо. В современных системах отсутствует именно понимание с использованием здравого смысла. У человека здравый смысл появляется на основе жизненного опыта, причём именно опыта взаимодействия с внешней средой, а у ИИ такой возможности нет.
Таким образом, интеллект – это способность воспринимать информацию и сохранять её в качестве знания для построения адаптивного поведения в среде или контексте. Но данное определение может быть применено как к органическому мозгу, так и к машине. Как мы видим, наличие интеллекта не предполагает наличие сознания. Это распространённое заблуждение принесли в мир писатели научной фантастики.
Продолжение читайте в следующей статье