Почему ИИ никогда не получит Букеровскую премию.

Ян Лесли пишет о культуре, политике и психологии в своем информационном бюллетене "Substack The Ruffian". Его статью публикует сайт Букеровской премии:

"Достижения в области ИИ позволяют предположить, что появление созданного компьютером произведения достаточного качества, чтобы поразить судей Букеровской премии или даже сделать писателей-людей устаревшими, лишь вопросом времени. Но вот почему это (вероятно) не произойдет.

Итак, представим, на дворе ноябрь 2040 года, скоро объявят лауреата Букеровской премии. На собравшихся в лондонском Roundhouse гостей опускается тишина, когда почтенная писательница Салли Руни, двукратная обладательница премии, вскрывает золотой конверт. Ее глаза расширяются, когда она читает то, что написано на листке бумаги. Она смотрит на публику и без улыбки заявляет: "Игра окончена. Машина победила".
Вы можете сказать, что это нереально, и я могу с вами согласиться: вероятно, это будет уже в 2030 году. Но когда бы это ни случилось, наступит время, когда писатели-люди будут конкурировать с писателями-программами ИИ, которые научатся писать романы столь же убедительные, что и  люди, но на их создание ИИ будет тратить несколько секунд, а не лет. В этот момент долгая игра, начавшаяся с того, что вы выбираете для чтения Сервантеса, Дефо или Мурасаки Сикибу, подойдет к концу. Писатели станут мастерами устаревшего искусства - пройдут путь машинисток и телеграфисток, городских глашатаев и трубадуров.

Действительно ли я верю в это? Я не уверен. Романы состоят из слов, которыми манипулирует автор. Форма ИИ, известная как большая языковая модель (LLM), теперь довольно хорошо работает со словами. Её обучают на человеческих текстах. На веб-сайтах, статьях из Википедии, академических статьях, целых книгах; LLM, известная как ChatGPT, уже поглотила весь Интернет. Затем LLM ищут закономерности во всех этих статьях: какие глаголы сочетаются с какими существительными, какие имена связаны с какими темами, какие предложения обычно сочетаются друг с другом, какие абзацы - с какими абзацами. Они учатся предсказывать наиболее правдоподобное следующее слово и следующий абзац. Когда вы задаете ChatGPT вопрос, он сопоставляет слова вашего вопроса со словами, с которыми он научился их ассоциировать.
Звучит довольно просто, но если вы снабдите машину достаточным количеством данных, результат будет впечатляющим. Последняя версия ChatGPT-4 может мгновенно генерировать шекспировский сонет об изменении климата. На самом деле, LLM неплохо понимает большинство известных писателей. Я попросил ChatGPT-4 написать сцену, в которой инспектор Мегрэ в исполнении Жоржа Сименона отправляется в спортзал. ИИ проделал достойную работу.
Но, можно сказать, Сименон - жанровый писатель, а жанры по определению следуют некоторым шаблонам. Так, детективная история обычно связана с загадочным преступлением, неуклюжими полицейскими и решением, которое было найдено благодаря превосходному чутью нашего героя. Сименон создал отдельный поджанр, населенный замкнутыми, странными мужчинами, охваченными убийственной страстью к роковым женщинам. Поскольку вся работа LLM состоит в поиске закономерностей и их воспроизведении, то создавать жанровые романы — это несложная задача. Но Букеровская премия присуждается за художественную литературу — за романы, которые по самой своей природе не следуют шаблонам и бросают вызов нашим представлениям о том, какие слова сочетаются друг с другом.

Конечно, это довольно грубое разделение литературы на жанровую и художественную, и я не собираюсь изучать вопрос уступает ли в чем-то жанровая проза художественной. Я только отмечу, что «литературные» авторы тоже следуют шаблонам, потому что это свойственно людям. Например, если мы скормим LLM все романы Кадзуо Исигуро во всем их великолепном разнообразии, разве эта модель не обнаружит несколько общих черт? Разве она не научилась бы воспроизводить этот холодный, простой стиль, создавать загадочного рассказчика, у которого есть трудности с общением; вводить в текст темы памяти, самообмана, отчуждения?
Конечно, кажется никто не относится столь внимательно к такого рода вопросам, как Исигуро, который намеренно на протяжении всей своей карьеры сопротивляется следованию предсказуемым моделям, в том числе своим собственным. Но у каждого выдающегося автора есть свой художественный почерк. Мы ценим писателей за их способность удивлять нас, а также за их постоянство — за их голос. Непротиворечивый голос, по определению, до некоторой степени воспроизводим. Как говорит персонаж последнего романа Исигуро, вошедшего в лонг-лист Букера, «Клара и Солнце», который частично посвящен ИИ, "любая работа, которую мы делаем, содержит наше клеймо… а иногда клеймит нас несправедливо".

ИИ, который получит Букеровскую премию 2040 года, очевидно, не будет изображать из себя Кадзуо Исигуро или любого другого конкретного автора, не в последнюю очередь по юридическим причинам, но он сможет написать роман, который будет казаться оригинальным и который нельзя будет идентифицировать как результат обучения на основе какого-то набора текстов отдельного автора. Скажем, я смогу попросить ChatGPT-57 создать роман о женщине-террористке, действие которой происходит в Чикаго в 1968 году, в котором смешаны элементы Хилари Мантел, Кормака Маккарти и Федора Достоевского. Это может показаться странным и невыполнимым требованием, но многие романы и сейчас имеют даже более разнообразное сочетание компонентов и предшественников. То, что мы называем оригинальностью, происходит от смешения существующих историй, идей, форм и стилей в странных новых сочетаниях.
Как только ИИ научится создавать романы, которые будут казаться, скажем так, новыми, мы можем представить, как работа, созданная им, будет представлена ​на суд ​Букеровского жюри под псевдонимом и победит — возможно, с его нечеловеческой личностью, которая раскроется только в последнюю минуту. В этот момент романисты устареют. Как читатели, мы сможем просто давать ИИ несколько подсказок и он будет создавать новые романы по нашему желанию. Неудивительно, что у Салли Руни такое каменное лицо на подиуме.

Однако, я не думаю, что это вероятно, по двум фундаментальным причинам. Во-первых, LLM смотрят в прошлое. Они производны даже при создании новых комбинаций; это лишь огромное зеркало заднего вида. Они производят имитации текста, созданного людьми, и эти имитации, на жаргоне информационных технологий, называются «с потерями». Писатель-фантаст Тед Чан описывает ChatGPT как «размытый JPEG» всего текста в Интернете. Если вы обучаете музыкальную модель на произведениях Моцарта, вы в лучшем случае получите Сальери. И роман об Исигуро, созданный ИИ, будет только в духе Исигуро.
Что произойдет, когда следующее поколение моделей пройдет обучение на этих версиях "с потерями"? В конце концов, все превратится в мусор. Мы достигнем стадии, которую некоторые ученые-компьютерщики называют «крахом модели». Чтобы остановить или, по крайней мере, замедлить этот процесс, нам потребуются романисты и другие художники, постоянно пополняющие запас свежих идей и продолжающие находить новые способы работы с языком для отражения нового опыта.
Я могу представить писателей, которые полагаются на ИИ в качестве помощника. Многие писатели ненавидят создавать первые наброски. Так что, возможно, они смогут побудить LLM разработать что-то, что они затем смогут улучшить и сделать самостоятельно. Несомненно, некоторые писатели сочтут это чрезвычайно полезной функцией, но я бы с осторожностью отдавал эту обременительную задачу на аутсорсинг. Боль, возникающая при написании первого черновика, на самом деле является той болью, которая сопровождает напряженные размышления. Суровая правда заключается в том, что, вероятно, нет коротких путей к приличному второму варианту.

Вторая причина, по которой я не верю, что ИИ заменят действительно хороших писателей, заключается в том, что всегда найдутся читатели, которые ищут не только ответы, но и вопросы, и, как заметил Пабло Пикассо: "Компьютеры бесполезны. Они могут только давать ответы". Существует важное различие между загадками и тайнами. Детектив, вроде Мегрэ или Пуаро, решает головоломку, находя нужную информацию. В конце книги любопытство читателя удовлетворено. Тайна, напротив, только углубляется дополнительной информацией. Природа существования — тайна, такова же природа желания или любви; чем больше мы узнаем об этих вещах, тем больше они ставят нас в тупик и тем больше мы ими восхищаемся.
LLM только дают ответы. Они пишут то, что уже известно, поскольку паразитируют на существующем корпусе знаний. Более того, все, что они «знают» — это слова. Им не знакомо ощущение ходьбы босиком по траве, открывания чемодана или жар желания. На самом деле мы тоже этого не знаем, мы не полностью знаем эти переживания даже после того, как пережили их. Но то, что мы живем в мире, позволяет нам тщательно их обнюхать, а это значит, дает нам возможность запечатлеть мир с помощью слов с большей точностью, чем LLM.

LLM умеют решать головоломки, но хороший роман — это тайна. Вместо того, чтобы воспроизводить и перетасовывать наши устоявшиеся представления о реальности, хорошие романы подрывают и разрушают их. Расширяя наше восприятие, романисты обращают внимание на жизненные искажения, изъяны и ограничения. Писатели заняты донкихотской борьбой за кристаллизацию того, чего люди не знают и не могут понять. Как говорил Итало Кальвино: «Мы всегда пишем о том, чего не знаем: мы пишем для того, чтобы ненаписанный мир мог выразить себя через нас». Он говорит, что письмо сосредотачивает наше внимание на том, что лежит по ту сторону слов, откуда что-то пытается появиться, «как постукивание по тюремной стене». Я подозреваю, что Кальвино нашел бы ИИ интересным, но не слишком. ИИ даже не знает, что находится в заточении."

Телеграм-канал "Интриги книги"