⠀⠀ «Рассмотрим систему, находящуюся на середине спектра между мной и Роботом, в которой сознание уже серьёзно деградировало, но ещё не полностью исчезло. Назовём эту систему "Джо"».
⠀⠀ «Процессы протекают у Джо так же, как и у меня – согласно предположению, он является моим функциональным изоморфом. Дело лишь в том, что, как оказывается, он совершенно неверно трактует собственные переживания». – Всё дело как раз в том, что изоморфный функционал вообще не имеет значения! Значение имеет сложность единения системы. Но опасность (для человечества в отношении искусственного интеллекта) заключается в том, что системой определённого (высокого) уровня сложности, в которой возможно проявление Сознания самым очевидным образом, станет в принципе невозможно управлять.
⠀⠀ «Джо – это рациональная система, механизмы которой работают не хуже, чем у меня… Но он имеет иную форму». – Что с того, что две машины выполняют одни и те же манёвры, если ключевая разница между ними в том, что за рулём одной из них сидит живой человек, а вторая управляется роботом?! Функциональный изоморф «Джо» всё же имеет иную (упрощённую с точки зрения сложности единения) форму внутренней организации, превращающую его всё больше в механизм. Можно сделать функционально изоморфные механические конечности, однако они будут лишены чувств («квалиа») именно по причине собственной «простоты» в сравнении с натуральными частями тела. Богатый функционал – это следствие высокоорганизованной системы единства, а не её причина. Если в упрощённой (в этом смысле) системе реализовать сходный функционал, она от этого никак не станет высокоорганизованной!
⠀⠀ «Если мы должны были бы допустить естественную возможность скачущих квалиа, то это привело бы нас к тревожной мысли: такое могло бы действительно существовать и происходить постоянно. Физиологические свойства наших функциональных механизмов всё время меняются. Функциональные свойства этих механизмов весьма устойчивы». – Это не так. Вместе с изменением физиологических свойств наших функциональных механизмов меняются и функциональные свойства этих механизмов – самый простой пример: старение. Что же касается «скачущих квалиа», то такое действительно существует и происходит постоянно, разве нет? Всё зависит от сложности единения системы. Каждое новое познание, как и деградация (утрата познаний), добавляет или исключает взаимосвязи внутри системы, как следствие меняя наше восприятие. Кремниевая аналогия не подходит уже по той простой причине, что в ней не возникает «само собой» новых связей, такая система не перенастраивается и не меняет сама свою структуру, отражая тем самым живой познавательный процесс.
⠀⠀ «Если мы допустим, что квалиа зависят не только от функциональной организации, но и от деталей её реализации, то может оказаться, что наши квалиа действительно всё время скачут перед нашим взором». – Так и есть, только касается это не «красного» и «синего», а смыслового восприятия образов, но к этому мы относимся как к само собой разумеющейся данности, или нашей природе. Отслеживание изменения смыслового восприятия образов (форм) требует осознанности. Простой модификации психологической установки достаточно, чтобы «вдруг» всё предстало в совершенно ином «цвете». На эту тему рекомендую посмотреть фильм «Я и другие»:
https://www.youtube.com/watch?v=nhgmMaFSPsc
[ Продолжение следует… ]