В шестой главе книги "Вычислительные машины и разум" Тьюринг отвечает на возражения против возможности создания искусственного интеллекта. Среди нас и сейчас очень много скептиков, задающих вопросы вроде: а что, если искусственный интеллект нас уничтожит? Или: возможно ли наделить машину сознанием?
Честно, это моя самая любимая глава. В ней фантазии Тьюринга улетают куда-то очень далеко. Глава больше похожа на научную фантастику, но как ещё быть, когда почти одновременно приходиться отвечать на возражения верующих, математиков, страусов, экстрасенсов... и это ещё не полный список! Что ж, давайте начнём!
Возражение 1: теологичекое.
Не могу сказать, какую конкретно религию рассматривает Тьюринг, но нам тоже хорошо знакомо это возражение. Согласно ему, Бог наделил бессмертной душой каждую женщину и каждого мужчину, а мышление - это свойство души. Животные и тем более машины не наделены душой, следовательно, мыслить не могут.
Не будем здесь развивать мысль о том, что человек тоже животное, млекопитающее. И вообще, некоторые представители иных видов порой поступают куда разумнее человека. Просто рассмотрим эту очень спорную идею.
Тьюринг пишет, что он не является верующим. Он лишь анализирует и оспаривает теологическое возражение на теологическом языке. Он пишет, что довод о наличии души у людей и её отсутствии у животных подразумевает серьёзное ограничение всесилия всемогущего. Найдётся ли верующий, который будет считать, что Господь не сможет наделить душой, например, слона, если захочет? Вряд ли. А если всемогущий захочет наделить душой машину, сможет? Сможет.
Человек не претендует на роль вселятеля душ. Он лишь создаёт прибежища для душ, не важно, рождает ли он кого-нибудь или создаёт машину. И если всевышний захочет наделить новый организм или машину душой, а, следовательно, мышлением, он это сделает. Значит, душой и мышлением могут обладать не только женщины и мужчины.
Возражение 2: "голова в песке".
Итак, кто же такой этот страус? Это тот, кто считает, что искусственный интеллект нанесёт большой урон человечеству, поэтому он очень надеется, что мыслящие машины никто никогда не изобретёт.
Человеку нравится верить, что он превосходит всех и вся; что он доминантен, стоит над всеми, и никто эту доминантность не в силах отобрать. Если появится искусственный интеллект, который будет умнее и совершеннее человека, это может поставить человека в уязвимое, совершенно незащищённое положение. Умные машины могут отобрать работу, сделать человека своим рабом и т. д. Есть среди читателей подобные страусы? Предлагайте свои варианты машинного апокалипсиса в комментариях.
В общем-то Тьюринг не находит это возражение достаточно существенным, чтобы его опровергать. Вероятнее всего потому, что Тьюринг не считал возможным создание сильного искусственного интеллекта. В его размышлениях касательно интеллекта машины часто, если не всегда, есть слово "имитация". Вероятнее всего он считал, что машины могут лишь имитировать процесс мышления, иначе говоря, быть слабым искусственным интеллектом. Слабого искусственного интеллекта бояться не стоит. Да, такие машины скорее всего отберут у нас механистическую работу вроде работы кассира. Но написать картину, сделать научное достижение - это вряд ли будет им под силу. Так что машины не отберут у нас работу. Разве что монотонную и тупую, освободив нам время для созидания и исследования нашего мира.
Возражение 3: математическое.
Ох уж эта математическая логика. Для любителей углубляться в подобные штуки: читайте оригинал. Здесь мы разберём их поверхностно, но понятно.
Итак, при помощи математики можно показать ограничения возможностей машин. Если переводить с математического языка на человеческий, получим: какой бы умной ни была машина, всегда найдётся машина поумнее. Этот принцип мы можем наблюдать и сейчас. Например, каким бы крутым ни был последний айфон, через время найдётся телефон ещё круче.
Такой же процесс происходит и с человеческим интеллектом. Каждое новое поколение прогрессивнее, чем предыдущее. Но не стоит забывать, что без опыта предыдущего поколения невозможен прогресс нового. Как говорил Эйнштейн: "всё, что я сделал, я сделал, стоя на плечах гигантов" - на плечах мыслителей, живших до него.
Что касается искусственного интеллекта, то математическое возражение будет гласить: "каким бы умным ни был искусственный интеллект, найдётся и поумнее." Т.е. в игре в имитацию будут вопросы, на которые не сможет ответить один искусственный интеллект, зато сможет другой. Выход из этой проблемы такой: не пытаться создать всемогущий компьютер, а программировать его под определённые задачи. Такое программирование не особо отличается от обучения человека, ведь мы тоже не можем овладеть всем в идеале, не можем быть великими спортсменами и столь же великими учёными одновременно. Так что никаких противоречий для имитации человеческого разума в этом возражении нет.
Возражение 4: возражение с точки зрения сознания.
Назову его так: широко известное в узких кругах. Формулируется примерно следующим образом: когда машина сможет создать, например, сонет, не в результате случайного выбора символов, а на основании своих мыслей и переживаний, тогда можно будет сказать, что она действительно по-настоящему мыслит, и её интеллект сопоставим с человеческим.
Действительно, сейчас ни один механизм не способен по-настоящему грустить, сердиться, восхищаться. Он может только более-менее достоверно это симулировать. Но во времена Тьюринга не было возможно и это.
Вообще, если вдруг машины смогут по-настоящему чувствовать, как мы это поймём? Самый достоверный, но и самый невероятный способ, это стать машиной. Ну и что же, чтобы убедиться, что другие люди вокруг тоже мыслят, а не имитируют и не являются продуктом матрицы, нужно стать этими людьми? Это невозможно, поэтому мы по умолчанию считаем, что не только мы мыслим и чувствуем, но и другие тоже. Вероятно, также придётся поступать и с компьютерами.
Тьюринг опять настаивает на слабом искусственном интеллекте и говорит, что машину можно запрограммировать на создание сонетов и их обсуждение, тогда будет возникать ощущение, будто машина действительно мыслит. Но это будет имитация мышления, иллюзия сознания.
В общем-то он приходит к тому же, к чему приходим и мы в наше время: сознание - это величайшая загадка, и пока человек терпит поражение в его исследовании. Но исследование это продолжать необходимо даже для того, чтобы создавать слабые искусственные интеллекты.
Возражение 5: возражение на основании различных форм недееспособности машин.
Будут ли машины когда-нибудь иметь такие же совершенные руки/ноги, какие имеет человек? Смогут ли они когда-нибудь почувствовать вкус клубники со сливками? А, если выйти на более высокий уровень, сможет ли когда-нибудь быть дружба между машиной и человеком такая же, как между человеком и человеком? Сможет ли машина осознавать сама себя? Сможет ли она совершать арифметические ошибки и делать это также часто, как делает человек? Всё перечисленное - это небольшой процент того, что является характерным для человека.
На данный момент машины не обладают руками/ногами, как у человека. Они не могут чувствовать вкус клубники со сливками. Они не могут дружить с человеком так же, как человек с человеком. Машины не совершаю арифметические ошибки и вообще скорость вычисления у них гораздо выше. Машины не могут осознавать себя.
Вряд ли всё перечисленное машина сможет когда-либо осуществить на 100%. Что касается самосознания - это вообще самый спорный вопрос, скорее всего его у машины никогда не будет. Однако машину можно запрограммировать на имитацию всего этого. Но прежде чем это делать, человечеству нужно гораздо лучше изучить и научиться воспроизводить на машинах все эти области функционирования нас, людей. Кроме того, машине нужно иметь достаточно большую память для обучения этому всему, а человеку - упорство при программировании. Думаю, этим будет заниматься не одно поколение.
Возражение 6: возражение леди Лавлейс.
Звучит следующим образом: "машина не может создать что-то новое. Она может лишь делать то, что человек скажет ей делать." Леди Лавлейс спрашивает, может ли машина создать что-либо новое? Но может ли человек создать что-то новое, что абсолютно точно ещё не существовало?
На самом деле даже дважды произнесённая одна и та же фраза одним и тем же человеком, будет каждый раз звучать немного по-другому, по-новому. Не знаю, знали ли об этом Тьюринг и Лавлейс...
Чтобы опровергнуть это возражение, Тьюринг решил его переформулировать в более корректный, по его словам, вопрос: не "может ли машина создать что-то новое", а "может ли машина удивить?" Никогда не задумывалась, что новое, это ещё и удивительное. Если отвечать на последний вопрос, то да, компьютеры постоянно удивляют человека. Особенно часто с этим сталкиваются программисты, получающие неожиданные результаты от выполнения машиной своего кода. Машина выдаёт ей не то, что запрограммировал человек, а что-то своё, удивительное :)
Хотя здесь можно возразить, что удивление - это результат работы мозга удивлённого. Машина не планировала никого удивить, она вообще ничего не планировала. Но, говорит Тьюринг, любое удивление требует умственного акта удивившегося, не важно, удивляет машина или человек. Жонглируя понятиями, Тьюринг приходит к тому, что да, машина может удивить. Но всё же, значит ли это, что она может создавать новое?
Возражение 7: возражение на основании непрерывности нервной системы.
Нервная система не является дискретной: крошечное изменение в начале может привести к глобальным изменениям впоследствии. Итак, нервная система непредсказуема, значит, её невозможно имитировать.
Вспомним из прошлых частей, что у дискретной системы можно описать все состояния и переходы между ними, и зная текущее состояние системы можно предсказать её будущее состояние.
Машины, участвующие в игре в имитацию, являются дискретными. Как же сделать их не дискретными, и что из этого выйдет? Конечно же их нужно запрограммировать на имитацию недискретности! Как это можно сделать?
Решение этой задачи легче всего показать на примере. Допустим, мы просим машину найти значение числа p ( это примерно 3,1416...). Чтобы запрограммировать её на имитацию недискретности, нужно дать ей "выбрать" ответ между 3,12 , 3,13 , 3,14 , 3,15 и 3,16 с некоторой вероятностью. Получается, задавая компьютеру задачу "найди число р", мы не знаем, что конкретно он нам ответит, есть только некоторая вероятность каждого ответа. Вот и схожесть с непредсказуемой нервной системой.
Возражение 8: возражение на основании неформальности поведения.
Поведение человека является неформальным. Это означает, что невозможно составить свод правил действий человека во всех возможных ситуациях. Тюринг предлагает разделить поведение человека на "правила действия" и "законы поведения".
Правила действия - это о том, как следует вести себя в определённой ситуации. Например, "остановись, если горит красный". Правила действия можно менять. Например, можно договориться, что останавливаться нужно, если горит зелёный.
Законы поведения - это законы природы, например, "если человека внезапно ущипнуть, он вздрогнет". Законы природы при всём желании нарушать невозможно, они относятся к человеческому телу.
Итак, человек подчиняется законам поведения. Машины тоже подчиняются законам поведения, это их главный признак. Значит, человек тоже в некотором роде машина.
Но можем ли мы изучить и описать все законы поведения? Нет. А можем ли мы, наблюдая за поведением машины, определить законы её поведения? В теории да, но на практике - нет. Например, мы подаём машине на ввод 16-значное число, а в ответ она выдаёт другое 16-значное число. Можно ли на основании этого прогнозировать ответы машины на любое другое число? Вряд ли. Вот так машина тоже может иметь неформальное, непредсказуемое поведение.
Возражение 9: возражение на основании экстрасенсорного восприятия.
Это моё самое любимое возражение! Самое безумное!
Самые популярные направления экстрасенсорного восприятия, это телепатия, прорицание и телекинез. Вроде тем, кто верит в это, рукой подать до веры в призраков и духов. Но, что интересно, наука очень хочет показать несостоятельность этих способностей, однако до сих пор не смогла это сделать. Даже существует фонд Джеймса Ренди, который гарантирует миллион долларов тому, кто сможет доказать свои паранормальные способности. За 24 года приз так никто и не забрал. Это очень интересный фонд, как и сам его основатель. Также есть ряд учёных, которые всерьёз изучают или изучали паранормальные явления, например, Наталья Бехтерева. Если вам интересно почитать о фондах, учёных, занимающихся доказательствами или опровержениями паранормального, и их противостоянии друг другу, пишите и мы обязательно их разберём.
Тьюринг пишет, что есть серьёзное опасение, что мышление также относится к экстрасенсорному восприятию.
Так как же нам может помешать экстрасенсорика при игре в имитацию? Допустим, в качестве игроков будут выбраны машина и человек с экстрасенсорными способностями. Человек благодаря своим способностям будет давать больше правильных ответов, чем машина, и угадать, где кто не составит труда! Я серьёзно, Тьюрин так и пишет!
Если фантазировать дальше, то и судья может обладать экстрасенсорными способностями, и своими этими способностями влиять на компьютер, из-за чего тот будет давать правильные ответы чаще!
Может ли быть ещё хуже? Конечно! Ведь судья, при помощи ясновидения может угадать где машина, а где - человек, а это уже ни в какие ворота...!
Короче, единственный выход, по мнению Тьюринга, это создать комнаты, защищённые от чтения мыслей, и поместить в них игроков и судью О_о
Итог
Вот таким образом Тьюрингом были побеждены скептики разных мастей! Как говорится, на безумие нужно отвечать безумием.
В следующей заключительной статье разебрём, почему эффективнее создавать искусственный интеллект ребёнка, а не взрослого человека; как и зачем устраивать для искуссственного интеллекта естественный отбор; как обучать машину, а также с чего начать это обучение.
Подписывайтесь, задавайте вопросы в комментариях или лично мне в сообщения, я очень рада пытливым умам!
Также читайте две предыдущие части разбора, где искусственный интеллект рассказал, что думает о своём мышлении: https://zen.yandex.ru/media/id/5f9925e9c1716016aa2b8c10/tiuring-iskusstvennyi-intellekt-nas-porabotit-a-ponimaem-li-my-voobsce-chto-eto-takoe-chast-1-5f992a8b73193b2ea3d57f4e
какая профессия идеально подошла бы мыслящей машине, и что у неё общего со Вселенной: https://zen.yandex.ru/media/id/5f9925e9c1716016aa2b8c10/tiuring-opisanie-mashiny-imitiruiuscei-cheloveka-chast-2-5f9a7c362603b20d51639b46
Подписывайтесь, задавайте вопросы в комментариях или лично мне в сообщения, я очень рада пытливым умам!