Эта статья является авторской. Сам автор не против того, чтобы вы на неё ссылались и копипастили :-)
Просматривая любые достижения в имитации интеллекта (самый простой пример - alfazero от DeepMind) многие люди начинают ванговать неизбежное порабощение или некую угрозу от ИИ. Но самое интересное, что не все специалисты в данном вопросе согласны с этим. К примеру Эммануль Можене (руководитель научно-исследовательского подразделения Google в Цюрихе) заявляет:
Дело в том, что мы не способны создать интеллект, который мог бы сравниться с человеческим. Фактом остается то, что в лучшем случае мы можем добиться интеллекта на уровне, скажем, змеиного.
Советую, кстати, прочитать всю статью (ссылка на неё будет в конце данной).
У Можене есть веские основания так считать. Вся суть проблемы заключается в сложности определения и понятия человеческого самоосознания. Ведь оно грандиозно сложно и не объяснимо! Мы сейчас с вами это проверим на практике, как говорится - "не отходя от кассы", ведь наше сознание всегда при нас (Слава Богу если у вас так =).
Представьте, что вы программист (мне представлять легче, так как я и так являюсь им). И вот вы решили заняться созданием не имитации интеллекта (нейронные сети и т.д.), а реально искусственным - то есть имеющего самоосознание. Но что такое самоосознание? Чтобы понять это вы, конечно, первым делом попытаетесь проанализировать самого себя. И правильно сделаете, так как человек - это единственной существо, которое проще проанализировать - вы же сами им являетесь. Но вы столкнетесь такой глубинной проблемой! Это может вас даже поразить. Приступим? (Думаю многие после такого самоанализа будут удивлены, что они просто этого не замечали в себе).
Человеческое сознание может "породить" всего две вещи - внутреннюю речь и визуализацию (фантазию). И НИЧЕГО БОЛЬШЕ. НИЧЕГО. Просто понаблюдайте за собой: мы вечно говорим про себя...Мы можем про себя продумать целую речь или беседовать с выдуманным оппонентом. Но откуда исходит внутренняя речь? Из нашего сознания. И она дискретна (локализуема). К примеру, вы легко отличите, когда говорите про себя от того, что вы фантазируете. Если она локализуема, то сразу появляется вопрос: а чем является эта внутренняя речь по отношению к нашему сознанию? Мы её порождаем, она локализуется, после чего мы её слышим в самих себе. Понимаете? Очень важный момент: слышим! Необъяснимый факт с точки зрения теории эволюции (каким методом отбора это могло появиться?). Чем внутренняя речь является сама по себе? Частью нас? Да. Но почему тогда локализуема (отделима) в нашем разуме?
Рассмотрим вторую ипостась сознания - визуализацию. С ней дело обстоит ровно также и даже лучше - в ней явственно видна дискретность. Мы можем представить себе то, что нам взбредет в голову: к примеру, по смотрев на кружку на столе, я могу представить, как она упадет и покатится к моим ногам. Хотя этого в действительности не было. Мы видим как бы картину перед собой. Задумайтесь просто над этим: перед собой!!! Мы создаем несуществующее действие, которое отщепляется от нашего разума (локализуется) и показывает нам наше же выдуманное событие. Чем является визуализация по отношению к нашему разуму, почему оно нам его показывает как бы со стороны, и кем являемся мы по отношению к нему? Мы сами придумали фантазию, локализовали её и сами себе показали. При этом, визуализация должна быть сложности быть равной самому разуму - так как она чётко понимает, что нужно ему показать, при этом сложность изображения со всеми имитациями законов физики и их отвержения. С внутренней речью также.
Третья ипостась - это сам наш разум, а именно "источник", который является зачинщиком первых двух. Он даёте команды на работу "внутренней речи" и "визуализации". Если мы можем локализовать (отделить) "внутреннюю речь" и "визуализацию", то это одновременно приводит к мысли, что источник - это отдельная когорта. Но что наш разум без первых двух ипостасей? Ни что. Просто ничто. Получается, что все три ипостаси являются одним целым и не раздельным, но при этом, каждая ипостась локализуема и равна другой. Парадокс.
Выходит что наше самосознание имеет три свойства - "источник", "внутреннее слово" и "визуализацию". Больше этого ничего нет. А теперь представим, что мы решили создать ИИ. Как мы пропишем в программе, фантазию и одновременно её демонстрацию самой себе? А внутреннюю речь? С точки зрения программирования - это бессмыслица. Получается, что нужно сделать трёхипостасный ИИ. А как это будет выглядеть? Три программы друг другу будут передавать информацию? Получается ерунда с точки зрения целостности сознания. А если делать одну программу с такими свойствами - то проблема локализации становится нереализуемой. Так как ипостаси должны быть равны между собой (как мной было сказано ранее):
Если мы показываем сами себе выдуманный объект, то эта визуальная проекция по мощности равна её "зачинщику". Так как она чётко понимает, что нужно ему показать и делает сложную проекцию изображения . С внутренней речью также.
Вот такое интересное человеческое самоосознание: мы сами себе показываем и сами себе говорим, при этом и "фантазия" и "внутренняя речь", и "источник" - это тоже мы. Но при этом каждый себя считает целой личность, хотя в действительности над ней работают три равные между собой ипостаси. Пока проблема эта не будет решена НИ КАКОГО ИСКУССТВЕННОГО ИНТЕЛЛЕКТА НЕ БУДЕТ. А единственное, что мы сможем сделать - с эмитировать разум гадюки, как утверждает Можене и я с ним полностью согласен!
Статья с Эмманулем Можене: https://inosmi.ru/science/20180103/240856703.html