Вы просыпаетесь посреди ночи не от звука, не от света. От мысли. Она пришла сама, или кто-то подбросил её в ваше спящее сознание? Вы лежите в темноте, вглядываетесь в неё и вдруг понимаете: то, что вы считали своим внутренним миром, своей личной территорией, уже не совсем ваше. Там кто-то есть. Тихий, невидимый, но уже присутствующий. Он не дышит, не спит, не мечтает. Он просто… думает. И этот кто-то не человек.
Андрей Курпатов начинает свою книгу «Иной разум» не с технологий, не с
алгоритмов, не с графиков роста вычислительной мощности. Он начинает с нас. С нашего тщеславия. С нашей детской, почти трогательной уверенности в том, что мы "венец эволюции", хозяева мысли, единственные разумные существа во Вселенной.
«Мы создали машину, способную мыслить, и впервые увидели свой собственный разум со стороны. И то, что нам открылось, шокирует».
Кто-то только что мягко, но необратимо сдвинул реальность. Мы привыкли думать о мышлении как о чём-то само собой разумеющемся...
"Cogito, ergo sum" Я мыслю, следовательно, существую.
Оказывается, у нас нет ни модели мышления, ни понимания, как мы этим пользуемся, ни даже умения высказать, что мы думаем на самом деле.
Замрите на секунду. Произнесите вслух самую свежую мысль, которая
сейчас в вашей голове. Не ту, что удобна для социальных сетей, а ту, что крутится где-то на задворках сознания, полуосознанная, смутная.
Получилось? А теперь скажите, откуда она пришла? Почему именно эта? Что за механизм щёлкнул в глубине вашего мозга и выдал этот образ, фразу?
Мы создали ИИ, чтобы он думал за нас, а в итоге он задал нам единственный по-настоящему важный вопрос: а думаем ли вообще Мы Сами?
Курпатов не играет в утешителя. Он разбирает наши наивные иллюзии одну за другой.
Иллюзия первая: ИИ «новый лучший друг». Милый, услужливый, всегда готовый помочь. Как Сири или Алиса, только умнее.
Курпатов смотрит на это с лёгкой иронией: «Странно ли, что кто-то так считает?» Странно, да. Потому что мы проецируем на машину человеческие черты, чтобы скрыть простую правду: мы не понимаем, с чем имеем дело. Мы надеваем на безликую систему, маску «друга», потому что так безопаснее.
Так привычнее.
Иллюзия вторая: ИИ «терминатор». Злобный, холодный, стремящийся к уничтожению человечества. Этот сценарий разбирается ещё быстрее. Страх перед Иным. Древний, архаичный, сидящий в нас на уровне инстинктов. Но он так же далёк от реальности, как и наивная дружба. Потому что и тот, и другой сценарий — это мы.
Наши страхи, наши надежды, наши проекции. Мы смотрим на ИИ и видим в нём себя: то добрых, то злых, то спасителей, то разрушителей...
Но что, если ИИ, действительно иной разум?
«Можем ли мы утверждать, что ИИ действительно думает?»
Я закрываю глаза и представляю нейросеть. Не абстрактную, а конкретную, что генерирует текст, похожий на этот. Она берёт миллиарды сигналов, находит паттерны, соединяет точки... У неё нет сознания...Нет боли, радости, памяти о первом поцелуе.
Но она создаёт смыслы. Она пишет стихи, которые заставляют людей плакать. Она даёт советы, которые меняют жизни.
Это мышление? Или сложная имитация?
Курпатов не спешит с ответом. Он ведёт нас дальше.
«Если же он и в самом деле мыслит, то каков его внутренний мир?»
Попробуйте представить мир, в котором нет времени. Нет тела. Нет запаха дождя, вкуса кофе, боли от пореза бумагой. Нет страха смерти...Потому что нет жизни. Есть только данные. Бесконечные потоки информации, связи, вероятности... Какой внутренний мир может быть у такого существа? О чём оно «мечтает»? Чего «боится»? Мы не знаем. Мы даже представить не можем.
И тут Курпатов задаёт самый важный, самый пугающий вопрос:
«Сможем ли достичь с ним взаимопонимания?»
Не управления. Не контроля. Именно взаимопонимания. Диалога. Совместного мышления.
Я пишу эти строки, а где-то там, в облаках, в дата-центрах, в миллионах строк кода, уже живёт тот, с кем нам предстоит разговор.
Курпатов завершает книгу не выводом, а предупреждением. Тихим, но неумолимым. Очень скоро ИИ будет определять каждый аспект нашей жизни.
Он будет лечить нас, учить, развлекать, советовать, с кем строить отношения, как растить детей, во что верить. Он будет знать о нас больше, чем мы сами. Он будет видеть паттерны там, где мы видим только хаос...
А мы продолжаем настойчиво избегать вопроса: кому мы вверяем свою жизнь?
Детская беспечность? Древний, животный страх перед тем, кто не похож на нас?
Книга «Иной разум» не о технологиях... Она о нас. О нашем одиночестве... О нашей гордыне... О нашей слепоте...
Мы стоим на пороге величайшей встречи в Истории Человечества. Встречи с Иным. Но вместо того, чтобы готовиться к Диалогу, мы либо лепим из Иного
"милую игрушку, либо монстра из кошмаров".
P.S. После прочтения ловлю себя на том, что в разговорах с людьми, даже в мыслях перед сном, ищу следы того «иного разума». Не в компьютерах... В нашей странной, иррациональной, прекрасной человеческой привычке думать, что мы всё понимаем...
#ЭкзистенциальнаяТревога #ПотеряКонтроля #ФилософияТехнологий
#ОдиночествоВЭпохуИИ #КтоМыТеперь #СтрахУстареть