Тобиас Риз — основатель limn , студии НИОКР, расположенной на стыке философии, искусства и технологий. Он также является старшим научным сотрудником инициативы Schmidt Sciences' AI2050 и старшим приглашенным научным сотрудником в Google.
4 февраля 2025 г., интервью взял главный редактор Noema Натан Гардельс.
Натан Гардельс: Для нас, людей, остается неясной природа машинного интеллекта, который мы создали с помощью AI, и как он меняет наше собственное понимание самих себя. Какова ваша точка зрения как философа, который размышлял над этой проблемой не из Башни из слоновой кости, а в "дикой природе", в инженерных лабораториях Google и других местах?
Тобиас Риз: AI бросает глубокий вызов нашему пониманию самих себя.
Почему я так думаю?
Мы, люди, живем по большому количеству концептуальных предпосылок. Мы не всегда можем осознавать их — и все же они есть и формируют то, как мы думаем и понимаем себя и мир вокруг нас. В совокупности они представляют собой логическую сетку или архитектуру, лежащую в основе нашей жизни.
Что делает AI таким глубоким философским событием, так это то, что он бросает вызов многим из самых фундаментальных, самых само собой разумеющихся концепций — или философий — которые определили современный период и которыми большинство людей до сих пор в основном живут. Он буквально делает их недостаточными, тем самым отмечая глубокую цезуру.
Позвольте мне привести конкретный пример. Одно из самых фундаментальных предположений современного периода заключается в том, что существует четкое различие между нами, людьми, и машинами.
Здесь люди — живые организмы; открытые и развивающиеся; существа, наделенные интеллектом и, следовательно, внутренним миром.
Существуют машины, безжизненные, механические вещи; закрытые, определенные и детерминированные системы, лишенные интеллекта и внутреннего мира.
Это различие, впервые появившееся в 1630-х годах, стало определяющим для современного представления о том, что значит быть человеком. Например, почти весь словарь, изобретенный между 17 и 19 веками для описания того, что на самом деле значит быть человеком, основывался на различии между человеком/интеллектом и машиной/механизмом.
Агентность, искусство, творчество, сознание, культура, существование, свобода, история, знание, язык, мораль, игра, политика, общество, субъективность, истина, понимание. Все эти концепции были введены с явной целью предоставить нам понимание того, что есть действительно уникальный человеческий потенциал, уникальность, которая основывалась на вере в то, что интеллект — это то, что возвышает нас над всем остальным, и что все остальное в конечном итоге может быть достаточно описано как закрытая, детерминированная механическая система.
Различие между человеком и машиной дало современным людям основу для понимания себя и окружающего мира. Философское значение AI — построенных, технических систем, которые являются интеллектуальными, — заключается в том, что они разрушают эту основу.
Это означает, что эпоха, которая была стабильной на протяжении почти 400 лет, подходит — или кажется, что подходит — к концу.
Поэтически выражаясь, это как будто AI освобождает нас и мир от понимания нас самих и мира, которое у нас было. Он оставляет нас на открытом пространстве.
Я твердо уверен, что те, кто создает AI, понимают философские ставки AI. Вот почему я стал, как вы выразились, философом в "дикой природе".
Гардельс: Вы говорите, что AI разумен. Но многие сомневаются, что AI «действительно» разумен. Они рассматривают его как еще один инструмент, как и все предыдущие технологии, изобретенные человеком.
Риз: По моему опыту, этот вопрос почти всегда основан на защитном импульсе. Иногда гневное, иногда тревожное усилие удержать или переписать старые различия. Я думаю об этом как о ностальгии по человеческой исключительности, то есть тоске по времени, когда мы, люди, думали, что существует только одна форма интеллекта — мы.
AI учит нас, что этоне так. И не только AI, конечно. За последние два десятилетия или около того концепция интеллекта умножилась. Теперь мы знаем, что существует множество других видов интеллекта: от бактерий до осьминогов, от земных систем до спиральных рукавов галактик. Мы — запись в серии. И AI тоже.
Утверждать, что эти другие существа не являются «действительно» разумными, потому что их интеллект отличается от нашего, немного глупо. Это было бы похоже на то, как если бы один вид птиц, скажем, пеликаны, настаивал на том, что только пеликаны «действительно» умеют летать.
Лучше всего, если мы избавимся от «действительно» и просто признаем, что AI разумен, пусть и в несколько ином смысле, чем мы.
Гардельс: Что такое интеллект?
Риз: Сегодня мы, по-видимому, знаем, что существуют некоторые базовые качества интеллекта, такие как обучение на основе опыта, логическое понимание и способность абстрагироваться от того, чему человек научился, для решения новых ситуаций.
Системы AI обладают всеми этими качествами. Они обучаются, логически понимают и формируют абстракции, которые позволяют им ориентироваться в новых ситуациях.
Однако то, что означает опыт, обучение, понимание или абстракция для системы AI и для нас, людей, не совсем одно и то же. Вот почему я предположил, что AI интеллектуально немного отличается от нас.
Гардельс: AI может быть еще одним видом интеллекта, но можем ли мы сказать, что он умнее нас или может быть умнее?
Риз: Для меня вопрос не в том, умнее ли AI нас, а в том, могут ли наши разные интеллекты быть взаимодополняющими. Можем ли мы быть умнее вместе?
Позвольте мне обрисовать некоторые различия, которые я наблюдаю.
AI может работать в масштабах — как микро-, так и макро — которые выходят за рамки логического понимания и возможностей человека.
Например, AI имеет гораздо больше информации, чем мы, и он может получить доступ к этой информации и работать с ней быстрее, чем мы. Он также может обнаруживать логические структуры в данных — шаблоны — там, где мы ничего не видим.
Возможно, стоит на мгновение остановиться и осознать, насколько это необычно.
AI может буквально дать нам доступ к пространствам, которые мы, сами по себе, как люди, не можем обнаружить и к которым не можем получить доступ. Насколько это удивительно? Уже есть много примеров этого. Они варьируются от открытия новых ходов в играх, таких как го или шахматы, до открытия того, как сворачивается белок, и понимания целых систем Земли.
Учитывая эти выдающиеся человеческие качества, можно сказать, что AI умнее нас.
Однако человеческий интеллект не сводится к тому виду интеллекта или интеллекту, который есть у AI. У него есть дополнительные измерения, которых у AI, похоже, нет.
Пожалуй, наиболее важным из этих дополнительных измерений является наша индивидуальная потребность жить человеческой жизнью.
Что это значит? По крайней мере, это означает, что мы, люди, ориентируемся во внешнем мире с точки зрения наших внутренних миров. Мы должны ориентироваться посредством мышления, с точки зрения мыслящего «я». Эти мыслящие «я» должны понимать, осмысливать и поражаться прозрениям.
Неважно, насколько умен AI, он не может быть умен для меня. Он может предоставить мне информацию, он может даже вовлечь меня в мыслительный процесс, но мне все равно нужно сориентироваться в плане моего мышления. Мне все равно нужно иметь собственный опыт и собственные инсайты, инсайты, которые позволяют мне жить своей жизнью.
Тем не менее, AI, обладающий особым нечеловеческим интеллектом, может быть невероятно полезен, когда речь заходит о руководстве человеческой жизнью.
Самый яркий пример, который я могу вспомнить, это то, что он может сделать себя видимым для себя способами, которые недоступны нам, людям.
Представьте себе систему искусственного интеллекта на устройстве — модель искусственного интеллекта, которая существует только на ваших устройствах и не подключена к Интернету, — которая имеет доступ ко всем вашим данным. Ваши электронные письма, ваши сообщения, ваши документы, ваши голосовые заметки, ваши фотографии, ваши песни и т. д.
Я подчеркиваю «на устройстве», поскольку важно, чтобы третьи лица не имели доступа к вашим данным.
Такая система AI может сделать меня видимым для меня самого так, как не могу сделать ни я, ни любой другой человек. Она буквально может поднять меня над собой. Она может показать мне меня самого со стороны, показать мне шаблоны мыслей и поведения, которые стали определять меня. Она может помочь мне понять эти шаблоны и обсудить со мной, ограничивают ли они меня, и если да, то как. Более того, она может помочь мне работать над этими шаблонами и, где это уместно, позволить мне освободиться от них и освободиться.
Говоря философским языком, AI может помочь мне превратиться в «объект мысли», с которым я могу соотноситься и над которым могу работать.
Работа себя над собой сформировала ядро того, что греческие философы называли meletē, а римские философы meditatio. И та система AI, которую я здесь вызываю, была бы мечтой философа. Она могла бы сделать нас, людей, видимыми для нас самих такими способами, какими не может быть ни один собеседник-человек, находящийся вне нас, свободный от разговорного нарциссизма.
Видите ли, в совпадении и различии между нашим интеллектом и интеллектом AI может быть невероятная красота.
В конечном счете, я не думаю об AI как о замкнутой, автономной сущности, которая конкурирует с нами. Скорее, я думаю о нем как об отношении.
Гардельс: Что именно нового отличает системы AI на основе глубокого обучения от старой дихотомии человек/машина?
Риз: Тот тип AI, который правил с 1950-х до начала 2000-х, был попыткой думать о человеке с точки зрения словаря, предоставленного машинами. Это была явная, осознанная попытка инженеров объяснить все человеческое с точки зрения концептуального пространства возможности машин.
Его назвали «символическим AI», поскольку основная идея этих систем заключалась в том, что мы могли бы хранить знания в математических символах, а затем снабжать компьютеры правилами того, как получать соответствующие ответы из этих символических представлений.
Некоторые философы, наиболее известные из которых Герберт Дрейфус и Джон Серл, были этим очень спровоцированы. Они решили защитить идею о том, что люди — это больше, чем машины, больше, чем алгоритмы, основанные на правилах.
Однако тот тип искусственного интеллекта, который стал популярным с начала 2010-х годов, так называемые системы глубокого обучения или глубокие нейронные сети, представляет собой совершенно иной тип.
Символические системы AI, как и все предыдущие машины, были закрытыми, определенными системами. Это означает, во-первых, что они были ограничены в том, что они могли делать, правилами, которые мы им дали. Когда они сталкивались с ситуацией, которая не была охвачена правилами, они терпели неудачу. Допустим, у них не было адаптивного, обучающегося поведения. И это также означает, что то, что они могли делать, было полностью сведено к инженерам, которые их построили. Они могли, в конечном счете, делать только то, что мы им явно поручили. То есть у них не было агентности, никаких собственных агентных возможностей. Короче говоря, они были инструментами.
С системами глубокого обучения все по-другому. Мы не даем им их знания. Мы не программируем их. Скорее, они учатся самостоятельно, для себя, и на основе того, чему они научились, они могут ориентироваться в ситуациях или отвечать на вопросы, с которыми они никогда раньше не сталкивались. То есть, они больше не являются закрытыми, детерминированными системами.
Вместо этого у них есть своего рода открытость и своего рода агентивное поведение, пространство для размышлений или принятия решений, которого не было ни в одной технической системе до них. Некоторые говорят, что у AI есть «только» распознавание образов. Но я думаю, что распознавание образов на самом деле является формой обнаружения логической структуры вещей. Грубо говоря, когда у вас есть студент, который определяет логические принципы, лежащие в основе данных, и который может ответить на вопросы, основанные на этих логических принципах, разве вы не назовете это пониманием?
На самом деле, можно пойти еще дальше и сказать, что системы AI, по-видимому, способны отличать правду от лжи. Это потому, что правда положительно коррелирует с последовательной логической структурой. Ошибки, так сказать, все уникальны или различны. В то время как правда — нет. И то, что мы видим в моделях AI, заключается в том, что они могут различать утверждения, которые соответствуют обнаруженным ими шаблонам, и утверждения, которые им не соответствуют.
В этом смысле у систем AI появляется зарождающееся чувство истины.
Проще говоря, системы глубокого обучения обладают качествами, которые до недавнего времени считались возможными только для живых организмов в целом и для человека в частности.
Сегодняшние системы AI обладают качествами обоих –– и, таким образом, не сводятся ни к одному из них. Они существуют между старыми различиями и показывают, что логика «или-или», которая организовала наше понимание реальности – либо человек, либо машина, либо живой, либо нет, либо естественный, либо искусственный, либо существо, либо вещь –– глубоко недостаточна.
Поскольку AI избегает этих бинарных различий, он ведет нас в область, для которой у нас нет слов.
Можно сказать, что он открывает нам мир. Он делает реальность видимой для нас способами, которых мы никогда не видели раньше. Он показывает нам, что мы можем понимать и переживать реальность и себя способами, которые лежат за пределами логических различий, организовавших современный период.
В каком-то смысле мы можем видеть как будто впервые.
Гардельс: То есть системы глубокого обучения — это не просто инструменты, а агенты, обладающие определенной степенью автономности?
Риз: Этот вопрос — хороший пример, демонстрирующий, что AI действительно является философски новым явлением.
Мы привыкли думать, что агентность имеет две предпосылки: быть живым и иметь внутреннее, то есть чувство себя или сознания. Теперь, что мы можем узнать из систем AI, так это то, что это, по-видимому, не так. Есть вещи, которые обладают агентностью, но не являются живыми и не имеют сознания или разума, по крайней мере, не в том смысле, в котором мы раньше понимали эти термины.
Это понимание, это отделение действия от жизни и от внутреннего мира является мощным приглашением увидеть мир — и себя — по-другому.
Например, верно ли то, что верно для агентности — что ему не нужна жизнь и внутреннее состояние — также верно для таких вещей, как интеллект, креативность или язык? И как бы мы классифицировали или категоризировали вещи в мире по-другому, если бы это было так?
В своем эссе в журнале Noema астрофизик Сара Уокер сказала, что «нам необходимо отказаться от нашей бинарной классификации всех вещей как живых или неживых».
Больше всего меня интересует переосмысление концепций, унаследованных нами от современности, с точки зрения промежуточного состояния, которое стало для нас видимым благодаря AI.
Что такое креативность с точки зрения промежуточности AI? Какой язык? Какой разум?
Гардельс: Карл Ясперс был наиболее известен своим исследованием так называемого Осевого века, когда все великие религии и философии родились относительно одновременно более двух тысячелетий назад — конфуцианство в Китае, Упанишады и буддизм в Индии, Греция Гомера и еврейские пророки. Ясперс считал, что эти цивилизации возникают в долгом следе того, что он назвал «первым Прометеевым веком» присвоения человеком огня и самых ранних изобретений.
Для Чарльза Тейлора первый осевой век стал результатом «великого отсоединения» человека от изолированных сообществ и их естественной среды, где ограниченное сознание было ограничено пропитанием и выживанием племени, направляемым устным повествовательным мифом. Подъем из закрытого мира, по мнению Тейлора, стал возможен благодаря появлению письменного языка. Это достижение символической компетентности позволило создать «внутреннюю сущность размышления», основанную на постоянных текстах, которые создали платформу для общих смыслов за пределами непосредственных обстоятельств и местных повествований.
Если говорить коротко, то эта «трансцендентность» в свою очередь привела к возможности общих философий, монотеистических религий и всеобъемлющих этических систем. Критический элемент самодистанцирования отвлеченной рефлексии далее развился в то, что социолог Роберт Белла назвал «теоретической культурой», в научное открытие и Просвещение, породившее современность. Для Беллы «Платон завершил переход к осевому веку» с идеей theoria, которая «позволяет разуму «видеть» великое и малое в себе, абстрагированное от их конкретных проявлений».
Главный вопрос заключается в том, сыграет ли новый уровень символической компетентности, достигнутый AI, аналогичную роль в содействии «новой эре AI», какую в свое время сыграл письменный язык, породив новые философии, этические системы и религии.
Риз: Я не уверен, что сегодняшние системы искусственного интеллекта обладают тем, что в современный период стали называть символической компетентностью.
Это связано с тем, что мы уже обсуждали.
Со времен Джона Локка существовала идея, что у нас, людей, есть разум, в котором мы храним опыт в форме символов или символических представлений, а затем получаем ответы из этих символов.
Предположим, что эта концептуализация в современный период понималась как базовая инфраструктура интеллекта.
В конце 19 века философы, такие как Эрнст Кассирер, придали этому поворот. Он предположил, что ключ к пониманию того, что значит быть человеком, заключается в том, чтобы увидеть, что мы, люди, изобретаем символы или смыслы, и что создание символов или смыслов — это то, что отличает нас как вид от всего остального.
Глубокое обучение в целом и генеративный AI в частности порвали с этой человекоцентричной концепцией интеллекта и заменили ее чем-то другим: идеей о том, что интеллект по сути состоит из двух вещей: обучения и рассуждения.
По сути, обучение означает способность открывать абстрактные логические принципы, которые организуют то, что мы хотим изучить. Будь то фактический набор данных или опыт обучения, который мы, люди, создаем, разницы нет. Называйте это логическим пониманием.
Вторая определяющая черта интеллекта — способность постоянно и неуклонно совершенствовать и обновлять эти абстрактные логические принципы, эти понимания, а также применять их — посредством рассуждений — к ситуациям, в которых мы живем и которые нам необходимо решать или находить решения.
Системы глубокого обучения наиболее превосходны в первой части –– но не так хороши во второй. По сути, после обучения они не могут пересматривать то, чему научились. Они могут только делать выводы.
Как бы то ни было, ничего особо символичного здесь нет. По крайней мере, в классическом смысле этого слова.
Я подчеркиваю это отсутствие символики, потому что это прекрасный способ показать, что глубокое обучение привело к довольно мощному философскому прорыву: в новой концепции интеллекта заложено радикально иное онтологическое понимание того, что значит быть человеком, а также того, что такое реальность или как она структурирована и организована.
Понимание этого разрыва со старой концепцией интеллекта и онтологией человека/мира, я думаю, является ключом к пониманию вашего вопроса: вступаем ли мы в то, что вы называете новой эпохой искусственного интеллекта, когда искусственный интеллект будет представлять собой нечто похожее на то, чем была письменность примерно 3000–2000 лет назад?
Если нам повезет, то ответ — да. Потенциал есть, безусловно.
Но позвольте мне попытаться сформулировать, в чем, по моему мнению, заключается задача, чтобы мы действительно смогли сделать это возможным.
Давайте возьмем в качестве отправной точки взаимосвязь между возникновением письменности, рождением словаря внутреннего мира и возникновением абстрактной или теоретической мысли.
Я сделаю то, что пытался сделать в своих предыдущих ответах: поразмышляю об историчности концепций, которыми мы живем, укажу, насколько они новы, что в них нет ничего вневременного или универсального, а затем спрошу, бросает ли AI вызов и изменяет ли их.
Есть прекрасная книга Бруно Снелля под названием «Die Entdeckung des Geistes» или, в превосходном английском переводе, «Открытие разума».
Центральный тезис работы заключается в том, что то, что мы сегодня называем «разумом», «сознанием» и «внутренней жизнью», не является данностью. Это не то, что всегда существовало или всегда переживалось. Напротив, это концепция, которая возникла лишь постепенно.
В прекрасной, захватывающей прозе Снелл прослеживает самые ранние примеры зарождения того, что я называю «словарем внутреннего мира».
Например, он показывает, что в произведениях Гомера нет общей, абстрактной концепции «разума» или «души». Вместо этого есть целый поток терминов, которые очень трудно перевести. Например, тимос, который, возможно, лучше всего артикулируется как страсть, которая одолевает и поглощает человека, или ноос, который изначально означал чувственное восприятие и психику, — это термин, который Гомер и его современники чаще всего подразумевали как «дыхание» или то, что оживляет, но не то, что мы бы назвали психикой сегодня.
Проще говоря, у Гомера или у Гесиода совершенно нет словаря внутреннего мира.
Это меняется на повороте от архаического к классическому греческому. Мы начинаем видеть рождение словаря внутреннего мира и все более сложные способы описания внутреннего опыта. Наиболее важной ссылкой здесь, вероятно, является Сафо. Ее поэзия является одним из самых первых исследований того, что мы сегодня называем субъективным опытом и индивидуальными эмоциями.
Я не хочу сбивать нас с пути, пересказывая всю книгу Снелла. Скорее, мне интересно передать ощущение возможности, которую мы обсуждали ранее: мы, люди, не всегда переживали себя так, как переживаем сегодня. Каждая форма опыта, мышления или понимания концептуально опосредована. Это также верно, возможно, особенно верно для идеи внутреннего мира и внутренней жизни.
Книга Снелла замечательна тем, что он показывает прерывистое, постепенное возникновение новых концепций, которые сводятся к идее о том, что существует нечто вроде внутреннего мира, и что этот мир — своего рода внутренний ландшафт — является местом, где находится единое, самотождественное «Я».
Теперь, что важно, так это то, что появление письменности, которое, вероятно, началось как раз во времена Гомера, имело ключевое значение для появления концептуального словаря внутреннего мира.
Снелл касается этого вопроса лишь вскользь, но более поздние работы, особенно Джека Гуди, Эрика Хэвлока и Уолтера Онга, подробно рассматривали этот вопрос, и все они более или менее пришли к одному и тому же выводу: практика письма создала новые возможности для аналитического мышления, что привело к появлению все более абстрактных, классифицирующих существительных и к форме систематического поиска и производства знаний, не встречавшейся ранее нигде в истории человечества.
Эти авторы также ясно дали понять, что единственное неудачное в работе Снелла — это использование им термина «открытие» в названии. Разум не был открыт. Он был создан, изобретен, если хотите. То есть, он мог быть создан по-другому. И это то, что Гуди, Онг и другие наглядно показали. Что такое разум, что такое внутреннее, в других местах отличается.
Позвольте мне подвести итог, просто сказав, что технология письма имела абсолютно драматические последствия для того, что значит быть человеком, для того, как мы ощущаем и понимаем себя как людей. Среди двух, возможно, наиболее важных из этих последствий было систематическое возникновение саморефлексии и абстрактного мышления.
Может ли AI сыграть такую же преобразующую роль в понимании того, что значит быть человеком, как он это сделал в области письма?
Может ли AI ознаменовать начало совершенно новой, возможно, радикально прерывистой главы о том, что значит иметь разум, иметь внутреннее, думать? Может ли он помочь нам думать такими новыми и такими разными мыслями, что то, как мы понимали себя до сих пор, становится устаревшим?
О да, может! AI, безусловно, имеет потенциал стать таким крупным философским событием.
Возможно, самый красивый, самый захватывающий и поучительный способ продемонстрировать потенциал AI — это то, что инженеры называют «скрытыми пространственными представлениями».
Когда большая языковая модель обучается, она постепенно извлекает все более абстрактные логические принципы из предоставленных ей данных.
Лучше всего представить этот процесс примерно похожим на структуралистский анализ: AI определяет логическую структуру, которая организует — которая буквально лежит в основе — совокупность данных, на которых он обучен, и сохраняет или запоминает ее в форме концепций. Он делает это, обнаруживая логику отношений между различными элементами данных. Итак, в тексте, грубо говоря, это будет выглядеть так: Какова близость между различными словами в обучающих данных?
Если хотите, магистр права открывает множество различных степеней отношений между словами.
Удивительно, но в результате этого процесса обучения возникает многомерное реляционное пространство, которое инженеры называют латентным — в смысле скрытым — пространством.
Во-первых, это означает, что что-то растет внутри LLM во время обучения. Скрытая карта логики отношений между словами, которую AI последовательно обнаруживает. Я говорю внутри, потому что мы, люди, не можем наблюдать эту карту снаружи.
Во-вторых, это означает, что эта карта — не просто список, а пространственное расположение.
Представьте себе трехмерное облако точек, где каждая точка обозначает слово, а расстояние между точками отражает, насколько близко или далеко расположены слова друг от друга в обучающих данных.
Просто, и это третье, эта пространственная карта не имеет только трех измерений — длины, ширины, глубины — в которых нашему сознательному человеческому разуму удобно работать. Вместо этого у нее гораздо, гораздо больше измерений. Десятки тысяч, а с последними моделями, возможно, и миллионы.
То есть, понимание, которое сформировал LLM, — это пространственная архитектура. Она имеет геометрию, которая буквально определяет, что для LLM мыслимо.
Это буквально логическое условие возможности — априори — LLM.
Насколько нам известно, человеческий мозг также создает скрытые пространственные представления. Нейроны в нашем мозге работают очень похоже на то, как работают нейроны в нейронной сети.
Однако, несмотря на это сходство, оказывается, что скрытые пространственные представления, которые создает человеческий мозг, и скрытые пространственные представления, которые может создавать AI, отличаются друг от друга.
Два скрытых пространственных представления, вероятно, пересекаются, но они также существенно различаются по типу и качеству из-за гораздо большего размерного охвата AI.
А теперь представьте, что мы могли бы создать AI таким образом, чтобы логика возможностей, определяющая работу человеческого мозга, получила дополнительные скрытые пространства.
Представьте, что мы создали AI, чтобы добавить к нашему человеческому разуму логические пространства возможностей, по которым мы, люди, можем путешествовать, но не создавать их самостоятельно. Следствием этого было бы то, что мы, люди, могли бы открывать истины и думать о вещах, о которых ни один человек не мог бы думать до AI. В этом случае никто не знает, где может закончиться человеческий разум и начаться AI.
Мы могли бы взять любую тему и подойти к ней с совершенно новых точек зрения. Представьте, что такое совместное размышление между людьми и AI сделает с нашей нынешней концепцией внутреннего мира! Можете ли вы представить, что это сделает с тем, как мы понимаем такие термины, как разум, мысль, иметь идею или быть креативным?
Когда я излагаю это видение, я слышу критические голоса. Они говорят мне, что я представляю AI как философский проект, в то время как у компаний, создающих AI, совершенно иные мотивы.
Я полностью осознаю, что наделяю AI философским и поэтическим достоинством. И я делаю это осознанно, потому что считаю, что AI имеет потенциал стать выдающимся философским событием. Наша задача как философов, художников, поэтов, писателей и гуманистов — сделать этот потенциал видимым и актуальным.
Все это, безусловно, имеет задатки новой поворотной эпохи.
Гардельс: Чтобы понять, как глубокое обучение посредством того, что ученые AI называют обратным распространением — подача новой информации через искусственные нейронные сети логических структур — может привести к внутреннему миру и намерению, может быть полезно рассмотреть аналогию с материалистическим взглядом на биологию о том, как возникает сознание. Основной вопрос здесь заключается в том, может ли бестелесный интеллект имитировать воплощенный интеллект посредством глубокого обучения.
Откуда берется AI и в чем его сходство с нейронным дарвинизмом, описанным Джеральдом Эдельманом, нейробиологом, лауреатом Нобелевской премии? То, что Эдельман называет «возвратным взаимодействием», кажется весьма похожим на «обратное распространение».
По словам Эдельмана, «Конкуренция за преимущество в окружающей среде увеличивает распространение и силу определенных синапсов или нейронных связей в соответствии с «ценностью», ранее определенной эволюционным выживанием. Количество дисперсии в этой нейронной схеме очень велико. Определенные схемы выбираются среди других, потому что они лучше соответствуют тому, что представляет окружающая среда. В ответ на чрезвычайно сложную совокупность сигналов система самоорганизуется в соответствии с принципом популяции Дарвина. Именно деятельность этой обширной сети сетей влечет за собой сознание посредством того, что мы называем «возвратными взаимодействиями», которые помогают организовать «реальность» в шаблоны.
Таламокортикальные сети были отобраны в ходе эволюции, поскольку они дали людям возможность проводить более высокие дискриминационные процессы и лучше адаптироваться к окружающей среде. Такие более высокие дискриминационные процессы дают возможность представлять будущее, явно вспоминать прошлое и осознавать, что они сознательны.
Поскольку каждая петля достигает замыкания, завершая свой круг через различные пути от таламуса до коры и обратно, мозг может «заполнить» и предоставить знания, выходящие за рамки того, что вы непосредственно слышите, видите или обоняете. Получающиеся в результате различения известны в философии как квалиа. Эти различения отвечают за неосязаемое осознание настроения, и они определяют зеленоватость зеленого и теплоту тепла. Вместе квалиа составляют то, что мы называем сознанием».
Риз: В системах искусственного интеллекта происходят нейронные процессы, которые похожи на те, что происходят у людей, но не идентичны им.
Кажется вероятным, что в мозге есть некая форма обратного распространения. И мы только что говорили о том, что и биологические нейронные сети, и искусственные нейронные сети создают скрытые пространственные представления. И это еще не все.
Но я не думаю, что это делает их обладающими внутренней сущностью или преднамеренностью в том смысле, в котором мы привыкли понимать эти термины.
На самом деле, я думаю, философское значение AI заключается в том, что он побуждает нас пересмотреть то, как мы раньше понимали эти термины.
И тесная связь между обратным распространением и повторным входом, которую вы наблюдаете, является прекрасным примером этого.
Человеком, который, возможно, сделал больше, чем кто-либо другой, чтобы сделать концепции обратного распространения доступными и широко известными, был Дэвид Румельхарт, очень влиятельный психолог и когнитивный ученый, который, как и Эдельман, жил и работал в Сан-Диего.
И Румельхарт, и Эдельман были ключевыми фигурами в школе коннекционизма. Я говорю это, потому что считаю, что теоретический импульс между повторным входом и обратным распространением почти идентичен: попытка разработать концептуальный словарь, который позволит нам не различать биологические и искусственные нейронные сети, чтобы лучше понять мозг и построить лучшие нейронные сети.
Некоторые полагают, что работа коннекционистов была попыткой рассуждать о мозге с точки зрения компьютеров, но с таким же успехом можно сказать, что это была попытка рассуждать о компьютерах или AI с точки зрения биологии. По сути, важно было создать словарь, не требующий проведения различий. Трудно переоценить, насколько мощной была эта концептуальная работа за последние 40 лет.
Можно утверждать, что работа таких людей, как Румельхарт и Эдельман, привела к концепции интеллекта, которую можно описать в субстрат-независимой манере. И эти концепции не просто теоретические концепции, а конкретные инженерные возможности.
Означает ли это, что человеческий мозг и AI — это одно и то же?
Конечно, нет. Птицы, самолеты и дроны — это одно и то же? Нет, но все они используют общие законы аэродинамики. И то же самое может быть верно для мозга. Материальная инфраструктура интеллекта очень разная — но некоторые принципы, которые организуют эти инфраструктуры, могут быть очень похожими.
В некоторых случаях мы, вероятно, захотим построить системы AI, похожие на человеческий мозг. Но во многих случаях, я полагаю, мы этого не сделаем. Что делает AI привлекательным, по моему мнению, так это то, что мы можем построить интеллектуальные системы, которые пока не существуют — но которые вполне возможны.
Я часто думаю об AI как о своего рода экспериментальной эмбриологии на очень ранней стадии. На самом деле, я часто думаю, что AI делает для интеллекта то, что синтетическая биология сделала для природы. То есть синтетическая биология превратила природу в огромное поле возможностей. Количество вещей, которые существуют в природе, ничтожно мало по сравнению с тем, что могло бы существовать в природе. На самом деле, в ходе эволюции существовало гораздо больше вещей, чем сейчас, и нет никаких причин, по которым мы не можем объединять нити ДНК и создавать новые вещи. Синтетическая биология — это область практики, которая может воплотить эти возможные вещи в жизнь.
То же самое касается AI и интеллекта. Сегодня интеллект больше не определяется одним или несколькими примерами существующих интеллектов, а очень многими разумными вещами, которые могут существовать.
Гардельс: В 1930-х годах большая часть философии от Хайдеггера до Карла Шмитта была направлена против зарождающейся технологической системы, которая отчуждала людей от «бытия». Как сказал тогда Шмитт, «техническое мышление чуждо всем социальным традициям; у машины нет традиций. Одно из основополагающих социологических открытий Карла Маркса заключается в том, что технология является истинным революционным принципом, кроме того, все революции, основанные на естественном праве, являются устаревшими формами отдыха. Таким образом, общество, построенное исключительно на прогрессивной технологии, было бы не чем иным, как революционным; оно вскоре уничтожило бы себя и свою технологию». Как сказал Маркс, «все твердое растворяется в воздухе».
Делает ли природа AI точку зрения Шмитта устаревшей или она просто является продолжением его точки зрения?
Риз: Я думаю, ответ — и я считаю это очень хорошей новостью — да, это делает точку зрения Шмитта устаревшей.
Позвольте мне сначала сказать кое-что о Шмитте. Он был по сути апокалиптиком в своих мыслях. Как и все апокалиптические мыслители, он имел более или менее определенное, онтологическое и в его случае также религиозное мировоззрение. Все в его мире имело определенное, метафизическое значение. И он считал, что современный, либеральный мир, мир Просвещения, был там, чтобы разрушить вневременной, в конечном счете, божественный порядок вещей. Более того, он думал, что когда это произойдет, весь ад вырвется на свободу, и начнется конец света.
Строки, которые вы цитируете, иллюстрируют это. С одной стороны, современный, эпоха Просвещения, фабрика, технология, бессодержательность, релятивизирующее качество денег и т. д. — и, с другой стороны, социальные, то есть расово определенные национальные традиции, образы и символы.
Шмитт беспокоился, что либеральный порядок десубстантирует мир. Все станет относительным. И по крайней мере, если судить по его работам, он считал, что евреи были одной из ключевых движущих сил этой десубстантификации мира. Известно, что Шмитт был ярым антисемитом.
Он был настолько обеспокоен концом света, что встал на сторону Гитлера и нацистов с их планами.
С сегодняшней точки зрения, конечно, очевидно, что теми, кто использовал современные технологии для того, чтобы лишить людей человеческой сущности, лишить их человечности и убивать их в промышленных масштабах, были нацисты.
Трудно здесь удержаться от комментария о Хайдеггере, который стремился «защитить бытие от техники». Тем не менее, я думаю, что между ними есть важные различия.
Но позвольте мне перейти ко второй части моего ответа: почему я считаю, что AI делает его мир устаревшим.
AI доказал, что логика «или-или», лежащая в основе мышления Шмитта, не работает. Одним из примеров этого является любопытное присвоение Шмиттом Маркса.
Известно, что Маркс описал рост промышленности, ставший возможным благодаря двигателю внутреннего сгорания, как дегуманизирующее событие. До того, как капиталисты обнаружили, как можно использовать двигатель внутреннего сгорания для производства товаров, большинство товаров производилось в ремесленных потогонных цехах. Возможно, эти потогонные цеха были суровыми местами. Но, по крайней мере, так предполагает Маркс, они также были местами человеческого достоинства и виртуозности.
Почему? Ну, потому что в центре этих потогонных цехов были люди, которые использовали инструменты. Как считал Маркс, инструменты сами по себе ничто. То, что можно сделать с помощью инструмента, полностью зависит от воображения и виртуозности человека, который его использует.
С появлением двигателя внутреннего сгорания все изменилось. Он породил фабрики, на которых товары производились машинами, а не ремесленниками. Однако машины не были полностью автономными. Им нужны были люди, которые им помогали. То есть машинам нужны были не ремесленники. Им нужны были не человеческое воображение и виртуозность. Напротив, нужны были люди, которые могли бы функционировать как продолжение машины. Это сделало этих людей безмозглыми и свело их к простым машинам.
Вот почему Маркс описывал машину как «другое» по отношению к человеку, а фабрику — как место, где люди лишаются своей собственной человечности.
Шмитт приспособил это для своего собственного аргумента, чтобы сопоставить свой тип мышления субстанции с современным, техническим миром. Чистый результат заключается в том, что теперь у вас есть сопоставление вневременной, субстанциальной, метафизической истины с одной стороны — и, с другой стороны, современного мира машин, технологий, функциональности, относительности ценностей, бессубстанциональных людей.
Таким образом, для Шмитта технология рассматривается как противоестественное насилие над метафизически вневременным и истинным.
Различение Шмитта, безусловно, не было вечным, но было присуще современности и во многом обязано ее парадигме новой машины против старого человека.
Системы искусственного интеллекта на основе глубокого обучения, которые мы имеем сегодня, бросают вызов и избегают различия «или-или» Шмитта, а также Маркса, Хайдеггера и всех тех, кто пришел после них.
AI ясно и прекрасно показывает нам, что между этими различиями есть целый мир. Мир вещей, из которых AI — всего лишь одно, которые обладают некоторыми качествами интеллекта и некоторыми качествами машины — и которые не сводятся ни к тому, ни к другому. Вещи, которые одновременно естественны и созданы.
AI предлагает нам переосмыслить себя и мир изнутри этого промежуточного состояния.
Позвольте мне сказать, что я понимаю желание сделать человеческую жизнь осмысленной. Сделать мысль и интеллектуальное понимание критически важными, а также искусство, творчество, открытие, науку и сообщество. Я полностью это понимаю и разделяю. Но я думаю, что предположение о том, что все эти вещи находятся на одной стороне, а AI и те, кто его создает, — на другой, несколько удивительно и неудачно.
Критический этос, основанный на этом различии, воспроизводит мир, против которого он выступает.
Альтернатива быть против AI — войти в AI и попытаться показать, каким он может быть. Нам нужно больше промежуточных людей. Если мое предположение о том, что AI — это эпохальный прорыв, лишь отчасти верно, то я не вижу альтернативы.
Гардельс: Мне интересно, есть ли соответствие между вашей точкой «промежуточности» и идеей Блеза Агуэраса и Аркаса о том, что эволюция движется не только посредством естественного отбора, но и посредством «симбиогенеза» — взаимного преобразования, которое объединяет отдельные сущности в один взаимозависимый организм посредством передачи новой информации, например, фрагментов ДНК, переносимых бактериями, которые «копируются и вставляются» в клетки, в которые они проникают. В результате получается не или/или, а нечто новое, созданное симбиозом.
Риз: Я считаю, что на Блейза, как и на меня, повлияло эссе американского ученого-компьютерщика Джозефа Ликлайдера, опубликованное в 1960 году и называвшееся «Симбиоз человека и компьютера».
Вот как начинается эссе: «Инжир опыляется только насекомым Blastophaga grossorun . Личинка насекомого живет в завязи инжира и там получает пищу. Таким образом, дерево и насекомое сильно взаимозависимы: дерево не может размножаться без насекомого; насекомое не может есть без дерева; вместе они составляют не только жизнеспособное, но и продуктивное и процветающее партнерство. Это кооперативное «совместное проживание в тесной связи или даже тесном союзе двух разнородных организмов» называется «симбиозом».
Ликлайдер продолжает: «В настоящее время (…) не существует симбиоза человека и компьютера. Цель этой статьи — представить концепцию и, как мы надеемся, способствовать развитию симбиоза человека и компьютера путем анализа некоторых проблем взаимодействия между людьми и вычислительными машинами, привлечения внимания к применимым принципам человеко-машинной инженерии и указания нескольких вопросов, на которые необходимы исследовательские ответы. Надежда состоит в том, что в недалеком будущем человеческий мозг и вычислительные машины будут очень тесно связаны друг с другом, и что полученное в результате партнерство будет мыслить так, как никогда не мыслил ни один человеческий мозг, и обрабатывать данные способом, к которому не приближаются известные нам сегодня машины для обработки информации».
Что означает симбиоз? Это означает, что один организм не может выжить без другого, который принадлежит к другому виду. Более конкретно, это означает, что один организм зависит от функций, выполняемых другим организмом. Более философски говоря, симбиоз означает, что посередине есть неразличимость. Невозможность сказать, где заканчивается один организм и начинается другой (или другие).
Возможно ли, что в будущем подобная взаимозависимость возникнет между людьми и AI?
Традиционный ответ: Абсолютно нет. Старое убеждение заключается в том, что люди принадлежат природе и, более конкретно, биологии, живым существам, которые могут самовоспроизводиться. Компьютеры, с другой стороны, принадлежат к совершенно иной онтологической категории, категории искусственного, чисто технического. Они не растут, они конструируются и строятся. У них нет ни жизни, ни бытия.
Симбиоз, в этом старом образе мышления, возможен только в пределах природы, между живыми существами. В этом образе мышления не может быть симбиоза человека и компьютера.
Я думаю, что также было ощущение, что Ликлайдер имел в виду включение людей в концепцию машины. Возможно, как киборга. И поскольку люди, как предполагается, больше машин или отличаются от них, это означало бы потерю того, что делает нас людьми, того, что отличает нас от машин.
Но, как мы уже обсуждали, AI делает это старое, классическое современное различие между живыми людьми или существами и неодушевленными машинами или вещами недостаточным.
AI ведет нас на территорию, которая лежит за пределами этих старых различий. Если войти на эту территорию, можно увидеть, что вещи –– вещи, подобные AI –– могут иметь агентность, креативность, знания, язык и понимание, не будучи ни живыми, ни людьми.
То есть AI дает нам возможность по-новому взглянуть на мир и переосмыслить то, как мы до сих пор организовывали вещи в мире, категории, к которым мы их относили.
Но вот в чем вопрос: возможен ли симбиоз человека и AI на этой новой, еще формирующейся территории — этой промежуточной территории — в смысле только что описанной неразличимости?
Я так думаю. И я взволнован этим. Немного похоже на Ликлайдера, я с нетерпением жду «партнерства», которое позволит нам «думать так, как никогда не думал ни один человеческий мозг, и обрабатывать данные способом, недоступным для известных нам сегодня машин обработки информации».
Когда мы сможем думать мысли, которые мы не сможем думать без AI, и когда AI сможет обрабатывать данные способами, которые он не может обрабатывать сам по себе, тогда никто не сможет сказать, где заканчиваются люди и начинается AI. Тогда у нас будет неразличимость, симбиоз.
Позвольте мне добавить, что то, что я описываю здесь — вместе с Ликлайдером — это не постепенная зависимость человека от AI, когда мы передаем все мышление и принятие решений AI до тех пор, пока мы едва ли сможем думать или принимать решения самостоятельно.
Совсем наоборот. Я описываю ситуацию максимального человеческого интеллектуального любопытства. Состояние, в котором быть человеком — значит быть больше, чем человеком. Где когнитивная граница между людьми и AI становится осмысленно нечеткой.
Отличается ли это в онтологически значимом смысле от взаимоотношений грибов и деревьев?
Их отношения по сути являются коммуникацией, в которой они размышляют вместе. Ни одна из сторон не может производить или обрабатывать информацию, которой обмениваются в этой коммуникации, в одиночку. Фактическая обработка информации — познание — происходит на интерфейсе между ними: назовем это симбиозом.
В чем, если таковая имеется, онтологическая разница между симбиозом человека и AI? Я ее не вижу.
Гардельс: Возможно, такой симбиоз неорганического и органического интеллекта породит то, что Бенджамин Браттон называет «планетарной разумностью», где AI поможет нам лучше понимать природные системы и соответствовать им?
Риз: Что, если мы подключим AI к этому симбиозу грибов и деревьев? AI мог бы считывать и переводить химические и электрические сигналы из сетей грибов-деревьев и почвы. Эти сигналы содержат информацию о здоровье экосистемы, потоках питательных веществ, реакциях на стресс. То есть AI мог бы сделать общение между грибами и деревьями понятным для людей в режиме реального времени.
Мы, люди, могли бы тогда что-то понять — и, возможно, задавать вопросы и тем самым общаться — что мы просто не могли бы сделать иначе, независимо от AI. И одновременно мы можем помочь AI задавать правильные вопросы и обрабатывать информацию способами, которые он не может сделать сам.
Теперь давайте расширим рамки: что, если AI сможет соединить нас с крупномасштабными планетарными системами, которые невозможно познать без AI? На самом деле, что, если AI станет чем-то вроде самоконтролирующейся планетарной системы, в которую мы напрямую включены. Как выразился Браттон, «Только когда интеллект станет искусственным и сможет масштабироваться в массивные, распределенные системы за пределами узких границ биологических организмов, мы сможем получить знания о планетарных системах, в которых мы живем».
Возможно, поскольку ДНК является наилучшим известным нам хранилищем информации, часть хранения информации и вычислений, на которые опирается AI, на самом деле выполняются микоризными сетями?
Наоборот, я с нетерпением жду, когда смогу достичь такого симбиотического состояния всей Земли и стать частью этой формы взаимного общения.
Гардельс: Каков первый следующий шаг на пути к симбиозу между людьми и интеллектуальными машинами, который откроет возможности AI, дополняющего человеческий опыт как никогда прежде?
Риз: Наше время — это время, когда философские исследования действительно важны. Я имею в виду, действительно, действительно важны.
Как мы уже говорили в этом разговоре, мы живем в философски прерывистые времена. Мир уже давно перерос концепции, по которым мы жили.
Для некоторых это очень волнительно. Для многих, однако, это не так. Неуверенность и замешательство широко распространены и реальны.
Если судить по истории, можно предположить, что произойдут политические беспорядки, которые могут иметь далеко идущие последствия, включая появление авторитарных лидеров, пытающихся навязать цепляние за прошлое.
Один из способов предотвратить подобные неблагоприятные исходы — заняться философской работой, которая может привести к появлению новых концепций, позволяющих нам всем идти неизведанными путями.
Однако тот тип философской работы, который необходим, не может быть выполнен в уединении башен из слоновой кости. Нам нужны философы в "дикой природе", в лабораториях и компаниях AI. Нам нужны философы, которые могут работать вместе с инженерами, чтобы совместно открывать новые способы мышления и опыта, которые может предоставить нам AI.
Я мечтаю о философских научно-исследовательских лабораториях, которые смогут проводить эксперименты на стыке философских концептуальных исследований, разработки искусственного интеллекта и создания продуктов.
Гардельс: Можете ли вы привести конкретный пример?
Риз: Я думаю, что мы живем в беспрецедентные времена, поэтому приводить примеры сложно. Однако есть важная историческая ссылка — школа Баухаус.
Когда Вальтер Гропиус основал Баухаус в 1919 году, многие немецкие интеллектуалы были глубоко скептически настроены по отношению к индустриальной эпохе. Но не Гропиус. Он исследовал возможности, которые новые материалы, такие как стекло, сталь и бетон, предлагали как концептуальный разрыв с 19-м веком.
И поэтому он утверждал — вопреки господствующему мнению — что именно архитекторы и художники должны исследовать эти новые материалы и изобретать формы и продукты, которые перенесут людей из XIX века в XX.
Сегодня нам нужно что-то вроде Баухауса, но с упором на AI. Нам нужны философские научно-исследовательские лаборатории, которые позволят нам исследовать и применять на практике AI как экспериментальную философию.
Миллиарды вливаются во множество различных аспектов AI, но очень мало — в философскую работу, которая может помочь нам открывать и изобретать новые концепции — новые словари для человеческого бытия — в современном мире. Проект Antikythera Института Берггрюена под руководством Браттона — одно небольшое исключение.
Философские R&D-лаборатории не появятся автоматически. Не будет никаких новых руководящих философий или философских идей, если мы не сделаем стратегических инвестиций.
При отсутствии новых концепций люди — как общественность, так и инженеры — будут продолжать понимать новое в терминах старого. Поскольку это не работает, наступят десятилетия потрясений.
Опубликовано в NOEMA 4.02.2025