Удивительно, как человек, написавший столько пронзительных фантастических историй, в том числе об искусственном интеллекте, так пессимистично настроен относительно ИИ.
Тед Чан — американский писатель китайского происхождения, у которого наград едва ли не больше, чем рассказов. Он широко известен по рассказу «История твоей жизни», по которому Дени Вильнёв снял замечательную фантастику «Прибытие».
В недавней статье для New Yorker фантаст рассуждает о «творческих способностях» искусственного интеллекта.
Спасибо за «лайк» и подписку — дальше будет ещё интереснее! А в Telegram-канале «Сай-фай ревью» ещё больше вкусностей, новостей и халявы!
Стартовой точкой в рассуждениях Теда Чана стал рассказ Роальда Даля про вычислительную машину, чья мощность позволяет штамповать по роману раз в 15 минут. И далее он задаёт вопрос:
Есть ли что-то такое в искусстве, что заставляет нас думать, что его нельзя создавать одним лишь нажатием кнопки?
По мнению фантаста, художественная литература, созданная актуальными большими языковыми моделями (например, ChatGPT), ужасна. Но он спрашивает: изменится ли ситуация с улучшением самих нейросетей, как это было с вычислениями при росте мощностей вычислительных машин?
Тед Чан признаётся, что у искусства множество определений (полагаю, потому что оно многогранно), а потому предлагает частное: искусство — это результат множества выборов.
По мнению писателя, когда вы создаёте художественное произведение, к примеру, рассказ, то «вы — осознанно или неосознанно — делаете выбор почти по каждому напечатанному слову»: в рассказе на 10 тысяч слов вам предстоит порядка 10 тысяч выборов (а в картине из 200 тысяч мазков нужно принять 200 тысяч решений — куда, где, чем и как их нанести).
Но когда вы даете генеративной нейросети «подсказку», вы делаете очень мало выборов: если ваш запрос состоит из 100 слов, то вы делаете, соответственно, около 100 выборов. ИИ при этом создаёт историю на 10 тысяч слов на основе запроса, заполняя пробелы. И у него, напоминает фантаст, лишь несколько способов заполнить их.
Например, можно украсть у других писателей, уже делавших этот выбор, принимавших такое решение ранее, которые есть в интернете. Причём выбор будет «усреднён». Оттого тексты, сгенерированные нейросетью, такие «пресные», отмечает Тед Чан.
Другой вариант — подражать стилю какого-то конкретного автора, копировать его и воспроизводить, что, очевидно, не ведёт к созданию чего-то по-настоящему оригинального и интересного в искусстве, подчёркивает писатель. Он сравнивает это с чем-то вроде плагиата, но без чувства вины, так как пользователь не знает, что и откуда копирует.
(О похожем пишет в своей книге «Конец индивидуума» французский философ Гаспар Кёниг. По его мнению, ИИ подрывает отношение к творчеству. Так, сочинения «в стиле Баха» истребляют Баха «как человека, как индивида, который существовал и принадлежал к определённой истории». Он называет это искусством без художника.)
При этом Тед Чан не согласен со сравнением, что написание текста нейросетью в чьём-то стиле похоже на то, как человек черпает вдохновение в творчестве другого творца. Если студент сдаст вместо эссе 5-станичную цитату из книги, утверждая, что это на 100% отражает его мысли и чувства, говорить, что он черпает вдохновение, будет всё же неверно. И цель эссе — формирование навыков критического мышления. Как поднятие тяжестей в зале для увеличения мускулатуры. И зарулив в спортзал на погрузчике, накачаннее не станешь.
Тут писатель заступается за человеческий интеллект, указывая, что даже лучшие программы, обошедшие людей в каких-то дисциплинах (например, в шахматы или го), обучались этому на примерах из миллионов партий — ни один игрок за всю жизнь столько бы не сыграл. Нейросети по сравнению с людьми менее эффективны в приобретении новых навыков.
Тед Чан также прокомментировал мнение тех, кто сравнивает эффект от внедрения нейросетей с появлением фотографии. Фантаст считает, что те самые выборы, которые делает фотограф до и во время снимка, и отвечают за творческую часть в фотоискусстве.
По его мнению, пока нет возможности создавать картинки с помощью нейросетей на основе выборов, сравнимых по числу с тем количеством решений, которые принимает настоящий художник. И неважно, пишет ли он картины маслом или работает с графическим планшетом.
Тед Чан описал программу, которая потребует от пользователя выдать 100 тысяч слов, чтобы она написала полноценный роман на заказ. Однако, задаётся он вопросом, кому нужен генератор текстов, который на написание романа требует написать сопоставимое роману количество слов? По его мнению, и компаниям такие ИИ не нужны, их коммерческий потенциал в другом: меньше усилий пользователя -> больше выхлоп.
Тед Чан утверждает, что творец совершает важные для создания произведения выборы на каждом из множества этапов, дело не только во вдохновении. И даже откровенного развлекалова — это сложный процесс, который требует, чтобы конечный продукт работал как швейцарские часы.
Тед Чан также приводит любопытный пример (о нём я уже слышал от другого автора), когда к нему обращаются с «отличной идеей» для романа — от писателя нужно только облечь это в правильную упаковку. По мнению фантаста, такие люди демонстрируют, что считают формулирование предложений «досадной помехой», а не самой важной частью повествования, что, конечно же, далеко от истины.
При этом он полагает, что люди легко забывают, что язык лежит поверх наших переживаний, субъективных эмоциональных проявлений нашего я, а также желания делиться чувствами. И мы постоянно испытываем искушение перенести эти переживания на неживую, но такую достоверную нейросеть, которая выдаёт связные предложения и реагирует на нас и наши слова.
Резюмируя, Тед Чан парирует доводы о том, что многое из произнесённого или написанного людьми вообще-то неоригинально и без новизны. Однако даже за дежурной фразой «Мне жаль», по его словам, может стоят искренняя и ценная для людей эмоция, которой не будет у статистической модели, для которой эта фраза ничем практически не отличается от других двух слов.
Он заявляет: создание произведения искусства — акт общения между творцом и читателями/зрителями/слушателями. Произведение может быть похожим на какое-то другое, но новым его делаете вы, ваш личный опыт, а также контекст и личный опыт того, кто его воспринимает. То есть, по мнению Теда Чана, созданный ИИ контент не может иметь сопоставимой ценности.
Поиски компромиссов
Конечно же, с писателем тут же поспорили. К примеру, обозреватель Atlantic Маттео Вонг считает, что нельзя определять искусство через количество усилий, затраченных на его создание. В качестве примера он приводит авангардистские течения XX века, например, дадаизм, одним из ключевых приёмов в котором был коллаж, или художников-абстракционистов (Джексон Поллок, Марк Ротко и проч.), создававших картины из случайных брызг, пятен и произвольных линий.
Кроме того, он призывает не сравнивать созданное ИИ с тем, что создал человек. Последний довод, как по мне, странный, так как и там и там читателем/зрителем/слушателем всё равно будет человек, а значит, сравнивать можно и нужно.
Один из компромиссных вариантов — рассматривать искусственный интеллект в качестве произведения искусства. Другой вариант — использовать искусственный интеллект в качестве помощника, инструмент для достижения творческих задач.
И как раз в тему.
На днях в «Букмейте» вышел сборник «Механическое вмешательство», куда вошли рассказы, написанные известными авторами (Татьяна Толстая, Шамиль Идиатуллин, Яна Вагнер, Рагим Джафаров, Алексей Сальников, Дмитрий Захаров, Ислам Ханипаев и проч.) в «сотрудничестве» с YandexGPT.
Судя по аннотации, «многие из авторов работали с нейросетью впервые, а по условиям эксперимента никаких технических заданий и подсказок про характер работы с языковой моделью не было». Любопытно, насколько большая роль у нейросети в этом эксперименте. Рассказы ещё не читал, но как эксперимент звучит интересно.
Полагаю, вот в таком варианте «творчество» точно возможно, ИИ здесь выступает лишь как инструмент в руках творца.
«Жизненный цикл программных объектов»
Очень любопытно, что одно из самых известных произведений Теда Чана, посвящённое как раз теме ИИ, готовится экранизировать работающий с ИИ художник Симон Жакеме.
Повесть «Жизненный цикл программных объектов» рассказывает о работе с дигитантами, обучающимися через общение со своими создателями и друг другом. Повесть затрагивает множество этических и технологических проблем, связанных с привнесением в наш мир сущностей на основе искусственного интеллекта.
Жакеме, у которого недавно вышел фильм «Электрический ребёнок», также посвящённый теме ИИ, заявил Vareity, что хочет экранизировать повесть Теда Чана, которую называет «очень умной и сложной». При этом, как я понимаю, он занимается программированием и использует нейросети в творчестве.
Не знаю, насколько он близок к началу съёмок и не является ли это просто его хотелками, но было бы любопытно взглянуть, а также узнать, что обо всём этом думает Тед Чан.
Какие бы ни были мнения относительно нейросетей, хорошо, что тема в части искусства, а также морально-этического осмысления этой технологии так или иначе фигурирует в прессе и на киноэкранах, книгах и проч., а не запирается в чёрные сундуки мегакорпораций, автоматизирующих и эксплуатирующих сбор данных в соцсетях, не остаётся игрушками троллей, лепящих порнофейки, и мошенников, подделывающих голоса для обмана систем авторизации, делая наш мир ещё больше похожим на антиутопию.
В конце концов, мы (ну ладно, неспециалисты, как я) продолжаем надеяться, что искусственный интеллект всё же станет лучшим изобретением человечества.
(Недавно, вон, испытывали разработанный ИИ ракетный двигатель, выглядит всё интригующе: нейросеть тут как раз использовалась в качестве инструмента, ускоряющего разработку.)
А какая точка зрения ближе вам?
P.S. В прошлом году я писал о другой статье Теда Чана, где он рассказывал о самой страшной опасности ИИ на современном уровне.
