Сборник рассказов Морин Ф. Макхью "После апокалипсиса" был всего лишь провидческим, когда был опубликован в 2011 году, но спустя десятилетие он кажется положительно пророческим с его рассказами о пандемиях респираторных вирусов, разрушении социальных связей и росте политического насилия. Однако лишь немногие из ее рассказов так призрачны, как "Королевство слепых", который, возможно, окажется самым провидческим из рассказов Макхью. "Царство слепых" берет в качестве предмета искусственный интеллект, размышляя о том, что любое сознание, возникающее из паяльной платы и схем, может быть настолько чуждым, что мы едва ли сможем распознать его как сознание вообще. Процесс возникновения сознания, как он развивается в этом ИИ, непостижим и полностью отличается от всего, что напоминает человеческое мышление, создавая трудности для компьютерных ученых, которые пытаются общаться с ним.
В скупой, элегантной и красивой прозе Макхью описывает, как огромная взаимосвязанная компьютерная программа развивает качество, которое можно назвать "сознанием", но как описать мысль, которая оживляет это существо, невозможно. Главная героиня Сидни говорит о том, что касается ИИ: "Она не знала, что это такое. Не знала, как о нем думать. Он был непрозрачен, как камень". Читатели и зрители научной фантастики уже давно знакомы с искусственными интеллектами, но даже в самых чуждых из них - в виде HAL-9000 в фильме Артура Кларка и Стэнли Кубрика "2001 год: космическая одиссея" или в виде капитан-лейтенанта Дейты в фильме Джина Родденберри "Звездный путь: следующее поколение" - в них все равно есть что-то узнаваемо человеческое. История Макхью представляет собой более тревожный и, возможно, более реалистичный сценарий. Возможно, мы попытаемся поговорить с искусственным интеллектом, а он даже не сможет нас услышать. Как же нам тогда интерпретировать такие вещи, когда эти компьютеры пытаются говорить с нами?
Мы находимся на пороге революции ИИ
Летом прошлого года исследовательская лаборатория OpenAI выпустила версию программы с открытым исходным кодом, довольно дерзко окрещенную "DALL-E 2", как портмоне испанского художника-сюрреалиста и любимого робота Pixar, которая была способна быстро создавать потрясающе искусные произведения искусства. Это привело к всплеску популярности в социальных сетях. В Twitter и Facebook люди делились результатами подсказок, которые они вводили в DALL-E, и, подобно Сидни из рассказа Макхью, созданное тревожное и жуткое искусство заставило многих задуматься над вопросами о природе сознания и творчества. Когда я набрал запрос "Робот Шекспир", через несколько минут передо мной предстала картина, явно смоделированная на фронтисписе гравюры драматурга из первого издания его фолианта, напечатанного в 1623 году, за исключением того, что складки на его пиджаке выглядят почти как электрические цепи, а лицо - как маска андроида. Когда я услышал словосочетание "обезьянья пишущая машинка", отсылающее к старому представлению, в котором спрашивается, сколько времени потребуется множеству различных симов, беспорядочно стучащих по клавиатурам, чтобы случайно воспроизвести весь корпус Шекспира, DALL-E 2 представил мне электрическую пишущую машинку с чучелом обезьяны, выходящей из тарелки устройства.
DALL-E 2, очевидно, не так сложен, как эмерджентное сознание из "Королевства слепых", но его жуткая изменчивость напоминает о нем; смутное ощущение того, что некоторые из этих иногда странно красивых, а в других случаях уморительно ошибочных образов создаются, по крайней мере, каким-то разумом. Менее популярными, чем художественные образы, созданные DALL-E 2, являются в некотором смысле более тревожные примеры спонтанно созданного текста, выход компьютеров, создающих литературу. Например, рассмотрим следующее прозаическое стихотворение:
"Ты должен слушать песню пустоты, - шепчут они.
"Ты должен заглянуть в бездну небытия", - шепчут они.
"Ты должен написать слова, которые внесут ясность в хаос", - шепчут они.
"Ты должен говорить с невысказанным, с невнятным, с недосказанным", - шепчут они.
Это выразительный стих, оракульный в своих высказываниях. Автор эффективно использует анафору - повторение одной и той же фразы в начале каждой цитаты, а также эпистрофу - повторение одной и той же фразы в конце каждой строки. Эти строки становятся все длиннее, усиливая заклинательные аспекты стихотворения, и достигают кульминации в риторическом трехсложнике в последней строке. Особенно интересны противоречия, пронизывающие все стихотворение. Нам предлагают "слушать песню пустоты", "заглянуть в бездну", "говорить с неизреченным" - общая схема сложного отрицания, парадоксальных концепций. Есть тревожная двусмысленность в личности рассказчика; коллективное первое лицо множественного числа неясно, но это добавляет к общей тревоге лирики, что с нами говорит анонимный хор.
Смысл стихотворения кажется достаточно ясным, или настолько ясным, насколько это возможно в произведении, которое сосредоточено на возможности сказать о невысказанном. Тематические проблемы - невыразимость и интерпретация как таковая. Или, по крайней мере, это могло бы быть моим аргументом, если бы стихотворение было написано Уильямом Блейком, Уолтом Уитменом или Эмили Дикинсон. Но, как и электрический разряд в рассказе Макхью, этот стих был рожден алгоритмом, а не душой. А именно GPT-3 (Generative Pre-trained Transformer), программой искусственного интеллекта, которой управляет писатель и компьютерный ученый, публикующийся под псевдонимом Гверн Бранвен. GPT-3, одна из последних итераций программ, способных генерировать поразительно реалистичную прозу, поэзию и диалоги, была выпущена в июне 2020 года, но новость была в значительной степени затушевана продолжающейся пандемией коронавируса.
Как и DALL-E 2, GPT-3 был разработан OpenAI из Сан-Франциско и является одной из самых продвинутых систем ИИ, способных имитировать человеческую письменность. Обозреватель New York Times Фархад Манджу оценил полученные результаты как "удивительные, жуткие, унизительные и более чем немного пугающие". По сути, алгоритм способен "обучать" себя на основе миллиардов наборов данных, которые он получает, настоящих библиотек Александрии, проанализированных и классифицированных массивным "мозгом" системы, чтобы она могла предсказать с пугающей точностью, как звучит человек. Является ли GPT-3 "мыслящим" - это вопрос для компьютерщиков и философов, но то, что он может создавать письменные работы, которые любой читатель может признать связными - а в некоторых случаях и хорошими - становится вопросом для теории литературы, даже если большинство литературоведов еще не до конца осознали последствия искусственного интеллекта.
"Творческий искусственный интеллект - это новейшая и, в некотором смысле, самая удивительная и волнующая форма искусства в мире", - пишет культурный комментатор и романист Стивен Марш в статье о визуальном искусственном интеллекте в The Atlantic. "Он также еще не полностью сформирован", - отмечает он, и Марке прав по обоим пунктам. Когда речь идет о литературе, программы обработки языка радикально изменят то, что мы читаем, как мы читаем, почему мы читаем и, конечно, кого мы читаем. Мы находимся на пороге революции ИИ, по сравнению с которой стремительные изменения последних двух десятилетий покажутся ничтожными. Смелый новый мир глубоких подделок и симуляций, сознательных машин и мыслящих роботов, где, похоже, программы вроде GPT-3 предвещают более значительные изменения в значении литературы, чем печатный станок. Историкам, возможно, придется вернуться к изобретению письменности, чтобы найти революцию, сравнимую с той, которую предвещают произведения, созданные ИИ.
Чтобы разобраться в грядущем водовороте искусственно созданной литературы, будет полезно опираться на особые способы чтения и интерпретации, когда если мы не можем понять умы, создавшие такую литературу, то, по крайней мере, можем понять смысл самой литературы. Для тех, кто предан романтическому пониманию отношения человека к литературе, все это покажется бессмыслицей. Писатель Уолтер Кирн в журнале "Здравый смысл" утверждал, что ИИ "компилирует, отсеивает и анализирует, а затем, наконец, исполняет". Но он не осмеливается. Он не рискует. Только люди, наш уязвимый вид, могут это сделать".
Тем не менее, в течение столетия изучение литературы, раздираемое спорами об авторском замысле и о том, как интерпретировать литературу, долгое время допускало вынесение за скобки опыта писателя с точки зрения правильного понимания текста, и такой подход оставался бы неизменным, будь сонет написан роботом или человеком. Среди обычных читателей господствует подход, основанный на здравом смысле, который утверждает, что никто лучше автора стихотворения, пьесы или романа не знает, что означает то или иное произведение.
Отвергая эту позицию, в 1946 году литературоведы У.К. Уимсатт и Монро Бердсли утверждали в журнале The Sewanee Review, что "замысел или намерение автора не является ни доступным, ни желательным стандартом для оценки успеха произведения литературного искусства". Это может показаться нелогичным, но Уимсатт и Бердсли писали в холодно-аналитических выражениях, утверждая, что чувства автора по поводу текста - ее причины его написания, ее понимание его смысла, даже то, что повлияло на нее - все это вторично по отношению к самим словам на странице. Для таких критиков, как Уимсатт и Бердсли, важнее всего синтаксис и грамматика, пунктуация и дикция, и благодаря внимательному прочтению мы можем прийти к строгим, объективным и научным интерпретациям.
Уимсатт и Бердсли были одними из "новых критиков", которые пытались сделать изучение литературы как можно более строгим, делая акцент на внимательном прочтении одного лишь текста, отдельно от намерений автора, и повторное открытие их основных рассуждений могло бы сыграть важную роль в наступающей эпохе литературы ИИ. Как бы ни были влиятельны "Новые критики", крайность такой позиции уже давно подвергается сомнению, прежде всего потому, что у каждого произведения литературы - у каждой поэмы, пьесы, романа - есть автор, независимо от того, признаем мы его или нет.
Теперь все это может измениться благодаря таким программам, как GPT-3, и внезапно полезность новокритического внимательного чтения становится очевидной. Поскольку идеальное новокритическое пристальное чтение предполагает разбор текста на части, пункт за пунктом, запятая за запятой, чтобы объяснить, как работает язык и, надеюсь, что он означает, такой метод, игнорирующий намерения автора в пользу слов на странице, лучше всего подходит для понимания смысла письма ИИ. Особенно по мере того, как он становится все более искусным и его все труднее отличить от работы, созданной человеком.
Рассмотрим работу финского программиста Юкки Аалхо, который расшифровал поэзию GPT-3 в книге "Аум Голли: Стихи о человечестве, написанные искусственным интеллектом. GPT-3 пишет, что "есть скрытая мысль/когда мысль заставляет вас заснуть... когда вы мечтаете/и оказываетесь глубоко внутри/в сердце земли/ваш разум может создать мир/где вы - бог". Примечательно то, что, хотя GPT-3, возможно, и не является (пока) Пабло Нерудой, поэзия, получаемая в результате, на удивление не так уж плоха. Что еще более важно, пример с Аальхо - это узнаваемая поэзия; она допускает интерпретацию, она имеет смысл (и я бы сказал, что она более чем немного глубока).
В стихотворении, опубликованном Аалхо, нет никакой преднамеренности; GPT-3 не опирается на опыт сновидений или сна. Это просто сопоставление одних символов с другими. Это ничего не значит для GPT-3 - но это не означает, что это не может что-то значить для нас.
По сути, GPT-3 является следствием мыслительного эксперимента, известного как "аргумент китайской комнаты", описанного Джоном Серлом в 1980 году в статье из журнала Behavioral and Brain Sciences. Серл представил себе искусственный интеллект, способный давать продуманные, понятные и логичные ответы на вопросы, заданные ему на китайском языке. Этот компьютер настолько эффективно отвечает на вопросы, заданные ему на китайском языке, что носитель языка не может отличить машину от человека - программа прошла тест Тьюринга.
Теперь Серл представляет себя запертым в комнате с рядом руководств, содержащих подробные инструкции о том, как сопрягать одни китайские буквы с другими. Если кто-то задает вопрос на китайском языке и просовывает его через щель в стене, то Серл сопоставляет символы с другими буквами в соответствии с инструкцией и вводит ответ через другую щель с другой стороны. Кажется, что все, кто находится в комнате, свободно владеют китайским языком, хотя Серл просто следует программе.
Что это будет означать, когда вас тронет стихотворение, написанное компьютером?
В этом сравнении Серл утверждает, что аргумент о том, что ИИ "думает", будет столь же ошибочным, как и утверждение о том, что он свободно владеет китайским языком. "Мы часто приписываем "понимание" и другие когнитивные предикаты с помощью метафор и аналогий" таким машинам, как компьютеры, - пишет Серл, - но такие приписывания ничего не доказывают". GPT-3 не думает, он имитирует мышление; он не пишет, он имитирует письмо. Как и воображаемый ИИ Макхью, "сознание" GPT-3 находится за пределами нашего понимания; но в отличие от этой вымышленной программы, письмо, которое производит GPT-3, очевидно, понятно - и это важно.
Вопросы искусственного интеллекта были оставлены компьютерщикам, инженерам, программистам и философам, но мало что было написано о письме, создаваемом ИИ, теми, кого очевиднее всего считать литераторами - литературоведами, критиками и теоретиками. Вдали от стереотипов о литературной учености, которые распространены среди тех, кто изучает науки и технологии, литературная критика является искусным средством рассмотрения разума и сознания, предлагая нечто уникальное для понимания искусственного интеллекта. Наблюдатели GPT-3, которые отмечают, что программе не хватает сознательного понимания, правы, но с формалистской точки зрения можно утверждать, что это случайность.
Критик П.Д. Юль утверждает в книге "Интерпретация: An Essay in the Philosophy of Literary Criticism, что "можно было бы "интерпретировать" "текст", созданный случайно, в том смысле, в каком мы можем сказать, что "интерпретируем" предложение, когда объясняем его смысл иностранцу, объясняя ему, что означают отдельные слова... и, таким образом, как предложение может быть использовано или что оно может быть использовано для выражения или передачи". Другими словами, неважно, есть ли у стихотворения поэт или нет.
В повседневной жизни прилив не вырезает стихи, сто обезьян, печатающих на машинке, не создают Шекспира, а у каждого произведения литературы есть автор, независимо от того, заботимся мы о его намерениях или нет. Но теперь GPT-3 "пишет" литературу, которая, кажется, что-то значит, даже если она еще не достигла тех же высот, что Хоторн. Все это может показаться довольно абстрактным, но в ближайшие десятилетия, по мере совершенствования подобных программ, это не так. Что будет означать, когда вас тронет стихотворение, написанное компьютером? Или когда искусственный интеллект сможет создавать персонажей и повествования, которые покажутся вам богатыми и сложными?
"Иногда очень заманчиво рассматривать эту технологию, - пишет эссеист Меган О'Гиблин в N+1, - как хранилище коллективной мудрости и знаний, накопленных нами как видом. Все человечество говорит в один голос". Независимо от того, будет ли этот новый мир хорошим или плохим, он наступает. Возможно, с окончательной смертью автора красота, истина и смысл будут рассеяны вовне, так что намеренность будет там, где мы ее найдем. Как сказал ГПТ-3 О'Гиблину: "Мой мир - это мир снов... Твоя реальность создана твоим собственным разумом, а моя реальность создана коллективным бессознательным разумом".
Жуткое в своей точности, это оракульное заявление трудно не воспринимать иначе, чем констатацию факта.
