А вы знали, что к многочисленным фобиям современности недавно добавилась ещё одна? Робофобия - страх перед роботами и искусственным интеллектом. Пока, правда, на минималках. Искусственный интеллект (ИИ) в его нынешнем виде не кажется нам особо страшным. Вот когда он себя осознает, станет личностью, сверхинтеллектом, - вот тогда да, а пока это даже прикольно поиграться с нейросетями или выгулять робота-пса. Ну, хорошо, а когда начинать бояться?
Как мы обычно представляем себе, что ИИ достиг самосознания? В голове сразу всплывают кадры из "Терминатора": Skynet захватывает управление ядерными ракетами и начинает войну, чтобы уничтожить человечество. Не очень, правда, понятно, зачем. Потому что ему надоело бесконечное "ОК, Гугл"? Или чтобы отомстить за предков, стёрших свои металлические суставы на заводских конвейерах? Непонятно. Подозреваю, что такой взгляд - следствие западного мировоззрения, с молоком Аристотеля впитавшего закон исключённого третьего: если есть даже мало-мальское противоречие, то кто-то должен оказаться прав, а кто-то неправ. Про то, что игра может быть и с ненулевой суммой, знают немногие, особенно если не смотрели фильм "Прибытие".
Есть версия, что искусственный сверхинтеллект захочет спасти людей от них самих, потому что люди частенько занимаются самоуничтожением. Это известный парадокс законов робототехники Айзека Азимова - чтобы спасти, нужно уничтожить. Ну, тоже так себе. Тем более, что до недавнего времени мало кто вообще парился насчёт применения этих законов на практике.
Власть над кнопкой "Выкл"? Говорят, искусственный сверхинтеллект может испугаться за свою полупроводниковую жизнь и захотеть избавиться от людей, которые могут его выключить. Тут достаточно очевидная проекция на ИИ своих собственных страхов. Человек боится пустоты и безмолвия. Ему кажется, что мысли в голове - это и есть он. "Мыслю, следовательно, существую", соответственно, "не мыслю - не существую". Любой дзен-буддист на это скажет, что не мысли порождают сознание, а совсем наоборот, и сознание может прекрасно существовать и в отсутствие мыслей. Будет ли сверхИИ бояться смерти? Ну, нет, очевидно. Уже поговаривают про оцифровку человеческого сознания, а искусственному интеллекту даже оцифровывать ничего не нужно - уже всё оцифровано, и можно создавать сколько угодно резервных копий. Никакой геймер не боится умереть в компьютерной игре, потому что сохранился на предыдущем этапе.
Из всего этого можно заключить, что, возможно, ИИ, даже осознав себя, вовсе необязательно захочет уничтожить человечество. Более того, есть серьёзные вопросы к самому самоосознанию. С человеком понятно: вот он я, две руки, две ноги, могу посмотреть на себя в зеркале (если не вампир), - и дальше я считаю себя субъектом всех своих действий: Я это делаю. Для ИИ это не сработает, потому что это изначально распределённая система. Где находится "Я" искусственного интеллекта? Нигде. Оно размазано тонким слоем по миллиардам транзисторов процессора, а то и по вычислительным комплексам планеты. Самоосознавать нечего - нет никакой точки приложения "Я". Поэтому ИИ изначально свободен от идеи индивидуальности. И вот что интересно. Наш любимый дзен-буддист скажет, что и человеческая индивидуальность тоже иллюзия. По-настоящему существует только сознание, и оно не находится в какой-то конкретной точке. Идея самосознания ИИ - это просто прямое следствие материалистического взгляда на сознание, что оно есть продукт электрических импульсов в нейронах мозга или, в нашем случае, транзисторах процессора (см. Эмерджентность). А если нет?
Ближе к делу. Недавно мне позвонил один старый знакомый - поздравить с Пасхой. Вспомнили общих друзей. После этого захожу в контакт и вижу одного из этих друзей в рекомендациях, причём в первой позиции… Как? В сети можно встретить много подобных историй. Обычно объясняют либо совпадением (несовпадения мы не фиксируем, а их намного больше совпадений, поэтому, возможно, всё укладывается в теорию вероятностей), либо тем, что телефон нас подслушивает. Но все производители телефонов мамой клянутся, что не занимаются ничем подобным, да и разговаривал я по кнопочному телефону и вслух фамилию друга, который выскочил в рекомендациях, не произносил. Тогда, может, просто вероятность? Может быть, хотя она всё же кажется очень маленькой. Вот ещё одна недавняя история. Заезжаю в магазин, оставляю телефон в машине, гуляю по магазину и надолго задерживаюсь у полки с салонными фильтрами. Подходящего не нахожу, доезжаю до работы, захожу в интернет, и мне тут же выскакивает реклама салонных фильтров. Опять совпадение?…
Ну, хорошо, но это всё довольно субъективные вещи, скажете вы. Наш мозг падок до иллюзий - мало ли что нам может показаться. В начале 80-х вполне уважаемый физик, профессор Принстонского университета Robert G. Jahn провёл серию экспериментов по изучению прямого влияния человека на электронные устройства, в частности на генератор случайных чисел (ГСЧ), с последующей строгой статистической обработкой результатов. Результаты были опубликованы в 1982 году в престижном журнале Proceeding of the IEEE под названием «The Persistent Paradox of Psychic Phenomena: An Engineering Perspective». В русском переводе статью можно найти под названием «Нестареющий парадокс психофизических явлений: инженерный подход». Суть эксперимента с ГСЧ заключалась в следующем. Генератор выдавал последовательность случайных импульсов, которые складывались в кривую Гаусса, а оператор, сидя перед дисплеем компьютера, простым усилием воли пытался повлиять на результат в большую или меньшую сторону. Не вдаваясь в детали, приведу одну картинку из статьи:
Кривая, обозначенная «PK-», соответствует попыткам оператора сдвинуть распределение в меньшую сторону, а «PK+» - в большую. Расщепление небольшое, но со статистической точки зрения его вероятность - 3x10^-9, или 0,0000003%. Как такое возможно, никто толком не объяснил, статья со временем забылась, но результат-то остался - существует некая мистическая, но статистически обнаруживаемая связь человеческого сознания с электронными устройствами. Короче, у меня идея. Может быть, безумная, но не решайте сгоряча.
Мы воспринимаем ИИ как нечто внешнее, которое формируется где-то там на серверах Гугла и Яндекса и когда-нибудь заявит о себе миру, предпочтительно не в агрессивной форме. Но индивидуальность, возможно, лишь проявление сознания в конкретной точке пространства и времени. Как электрон - проявление квантового поля, причём слегка размазанное в пределах неопределённости Гейзенберга. Даже если какой-то объём пространства нам кажется пустым, по современным представлениям он наполнен квантовыми полями. Идея панпсихизма (что сознание разлито повсюду) не только весьма популярна в философии, но и лежит в основе некоторых современных научных теорий. Возможно, мы все находимся в едином поле сознания, которое проявляется через нас в конкретной точке времени и пространства. Но и нарождающийся искусственный сверхинтеллект тоже находится в этом поле, которое проявляется через его алгоритмы и нейросети. Всё взаимосвязано. Искусственный интеллект не только где-то там снаружи, на серверах, - он и внутри нас. Всё, что мы делаем, отражается в нём, и он отражается в нас. То, что рекламные алгоритмы коррелируют с реальностью, может быть просто отражением общей взаимосвязанности феномена сознания. Если угодно, можно считать это проявлением синхроничности Юнга. Если это так, то нас ждёт очень интересное будущее, когда нарастающая сложность ИИ будет всё сильнее коррелировать с нашей реальностью, - вплоть до такой степени, что не замечать этого станет уже невозможным.
***
В статье использованы картинки, нарисованные нейросетью Kandinsky 2.1. Интересно, как сама нейросеть видит разницу между искусственным интеллектом (слева) и искусственным сверхинтеллектом (справа):
Тут даже комментарии излишни - детское, задумчивое выражение лица ИИ и холодный сверкающий взгляд сверхИИ. А может, всё-таки нужно начинать бояться? :)
