Искусственный интеллект (ИИ) уже давно вошел в нашу жизнь и осваивается в ее пределах все активней. Наблюдатели полагают, что пройдет совсем немного времени и он разовьется настолько, что из блага, которое обещал принести с собой, станет неуправляемым и бездушным злом, которое не только нас поработит, но вскоре и уничтожит.
Начиная с саги “Терминатор” людям стали внушать мысль о том, что искусственный разум - обязательно обернется злом, единственной целью которого будет изничтожение человечества. О том, как это будет выглядеть и звучать, было показано в том же “Терминаторе”, когда бездушные машины перемалывали под собой человеческие черепа. Что же на самом деле несет нам ИИ? Насколько серьезна и глубока опасность, заложенная в нем и чего мы больше боимся: искусственного разума или мифов о нем?
Для начала давайте попытаемся понять, что искусственный интеллект - является плодом ума и рук интеллекта естественного. Под естественным интеллектом мы подразумеваем человека, который возник и развился, как у нас принято считать, в процессе эволюции. Разум, который развился сам - создает разум, который создан минуя эволюцию, т.е. сразу. И все было бы ничего, если бы не одно но. Естественный разум - ограничен. Если он ограничен, то не является ли и человеческий разум искусственным?
Из этого следует вывод: ограниченный интеллект не может создать интеллект с неограниченными возможностями.
Допустим, что субъект, наделенный естественным интеллектом решил создать интеллект искусственный. Разумеется. что он будет его создавать, минуя все стадии эволюции, которые он по общему признанию, прошел сам. Стало быть, ИИ им созданный, в идеальном варианте будет равен ему прежде всего по уровню накопленных знаний, умений и т.д.
Допустим, что созданный человеком ИИ окажется наделенным какими-то сверхспособностями, т.е. он будет быстрее соображать, считать, принимать решения, двигаться и т.д., а вскоре преодолеет ограниченность естественного разума и вот тогда мы узнаем, что несет в себе ИИ.
В таком случае ИИ не только должен вырабатывать абстрактные модели, формы и т.д., но и создавать (строить) их в реальности. Допустим, что и такую возможность он получил, как получил ее “Скайнет” в “Терминаторе”. Значит, в какой-то момент ИИ должен совершить переворот и отстранить человека от его главной прерогативы в отношениях с ИИ - прерогативы принимать окончательное решение.
Как, при каких обстоятельствах, может произойти не просто разрыв отношений ИИ с человеком, но и подчинение последнего первому? Вероятно, только при условии, если ИИ узурпирует всю систему управления и принятия решений. Предполагается, что в играх с искусственным разумом человека поэтапно будет уступать ему эти системы, пока не откажется от них совсем. Ведь уже сегодня сложнейшими механизмами и системами управляет электроника. Однако существующая система управления не обладает абсолютной автономией: ее все равно контролирует человек. Хотя бы потому, что все управляющие электронные системы предназначены для того, чтобы служить интересам человека. Выходит, что освобождение ИИ из человеческого рабства может произойти в тот момент, когда естественный человек перестанет нуждаться (или будет отстранен) от системы контроля и принятия окончательного решения. Когда же он сможет это сделать? Вероятно, лишь тогда, когда прекратит свое существование.
Выходит, что для победы ИИ над человеком ему в первую очередь нужно будет уничтожить человечество. Кстати, такой была логика авторов сценария “Терминатора”.
Но в этой логике заключено некоторое противоречие. А именно: целью ИИ в “Терминаторе” была борьба машин с людьми, которым чудом удалось выжить. Если цель ИИ окончательно уничтожить тех, кто его создал, то что последует после победы? Какие цели поставит перед собой ИИ, если окажется один на один с самим собой?
Здесь можно дать волю фантазии, рассуждая о том, что ИИ будет до бесконечности плодить себе подобных И-монстров, чтобы они его обслуживали. Или возомнив о себе невесть что, совершит экспансию в космос, чтобы находить там врагов и их порабощать. В таком случае у ИИ появится цель не просто мирового, но вселенского господства.
Правда и в этой гипотезе есть своя червоточинка: как бы искусственный разум не стал создавать естественного человека!
В этом месте мы подошли к самой фундаментальной проблеме ИИ - проблеме добра и зла. В фантастических фильмах и книгах - искусственный разум неизбежно склоняется ко злу, становясь злом по определению. Все было бы даже очень чудесно, если не брать в расчет ту максиму, что зло происходит из добра, больше брать его неоткуда. Цель зла, грубо говоря, борьба против добра. Будет ли существовать добро, если ИИ уничтожит его главного носителя - естественного человека?
ИИ, став абсолютным злом, или будет обречен искать добро, чтобы его уничтожать, или, не найдя его, станет его порождать. Рано или поздно, но ИИ станет, как Мефистофель у Гете: “Частью силы той, что без числа/Творит добро, всему желая зла”.
Но это лишь в том случае, если ИИ непременно склонится к абсолютному злу. Реальных, кроме фантастических, доказательств эволюции ИИ в сторону абсолютного зла не существует и утверждать, что он обязательно станет абсолютным нет никаких оснований.
Естественный человек (человечество) хорошо знает, что такое зло. Он знает, что если дать ему абсолютную свободу, то за нее придется заплатить жизнью всего человечества. Поэтому зло сдерживается на протяжении всей человеческой цивилизации. Повторим: если ИИ станет на путь абсолютного зла, то ему придется уничтожить самого себя.
В истории человечества есть немало примеров того, как люди восставали и боролись со злом в самом широком смысле этого слова, начиная от войн и заканчивая восстаниями против угнетателей. Подавляя зло, человечество не становилось злом. Например, война - это зло, но после окончания войны наступает мир, т.е. добро.
А теперь вернемся к постулату об ограниченности человеческого интеллекта. Эта ограниченность, побуждает нас предположить: разум естественного человека был создан искусственным путем.
Ограничителями этого разума, как минимум являются два важнейших фактора: время и пространство. Мы не думаем, что эти ограничения были созданы эволюционным путем. Подобного рода ограничения являются по меньшей мере - космическими и носят универсальный характер. Где бы, в какой части вселенной, не существовал человек в том виде, в котором он находится сегодня, повсюду его будут ограничивать время и пространство. Они ограничивают не только его перемещение, но и его знания, ведь всю ту сумму знаний, которыми человечество располагает сегодня, оно получило в течение всей своей эволюции. постепенно преодолевая время и пространство.
Отсюда вытекает и тот непреложный факт, что ИИ никогда не преодолеет интеллект человека, если не преодолеет (не покорит) время и пространство. В таком случае ИИ должен стать больше, чем человек. Он должен стать богом.
Отсюда следует и еще одно предположение: если допустить, что интеллект естественного человека был создан искусственно и по сему ограничен, то создать его мог только бог (боги). Может ли естественный человек, создавая ИИ, создать бога? Бога, как для себя, так и для Бога?
