Ответ Стивена Кинга на новость о том, что при обучении большой языковой модели LLaMa без разрешения использовались книги писателей разных эпох. Статья опубликована в "The Atlantic" в августе 2023 года.
Самоуправляемые автомобили. Дискообразные пылесосы, которые снуют туда-сюда (лишь изредка застревая в углах). Телефоны, которые говорят вам, где вы находитесь и как добраться до следующего места. Мы живем со всеми этими вещами, а в некоторых случаях — смартфон здесь лучший пример — не можем без них обойтись, или так мы себе говорим. Но может ли машина, которая читает, научиться писать?
Я говорил в одной из своих редких попыток в нон-фикшн («О писательстве»), что нельзя научиться писать, если ты не читатель, и если ты не читаешь много. Похоже, программисты искусственного интеллекта приняли этот совет близко к сердцу. Поскольку объем компьютерной памяти так велик — все, что я когда-либо написал, уместится на одной флешке, и этот факт никогда не перестает меня поражать, — эти программисты могут загрузить тысячи книг в самые современные цифровые блендеры. Включая, как кажется, и мои. Настоящий вопрос в том, получится ли при выливании обратно нечто большее, чем сумма частей.
Пока ответ — нет. Стихи ИИ в стиле Уильяма Блейка или Уильяма Карлоса Уильямса (я видел и то, и другое) очень похожи на киношные деньги: хороши на первый взгляд, но не при ближайшем рассмотрении. Я написал сцену в готовящейся книге, которая, возможно, проиллюстрирует эту мысль. Один персонаж подкрадывается к другому и стреляет ему в затылок из маленького револьвера. Когда убийца переворачивает мертвеца, он видит небольшую выпуклость на лбу. Пуля, понимаете, не совсем вышла наружу. Когда я садился писать в тот день, я знал, что убийство произойдет, и знал, что это будет убийство при помощи пистолета. Но я не знал про эту выпуклость, которая становится образом, преследующим убийцу в дальнейшем. Это был подлинный творческий момент, возникший из погружения в историю и видения того, что видел убийца. Это было полной неожиданностью.
Могла ли машина создать эту выпуклость? Я бы сказал, что нет, но вынужден — неохотно — добавить уточнение: пока нет. Творчество невозможно без сознания, и сейчас уже звучат аргументы, что некоторые ИИ действительно обладают сознанием. Если это правда сейчас или в будущем, тогда творчество может стать возможным. Я рассматриваю эту возможность с некоторым тревожным любопытством. Запретил бы я обучение (если это можно так назвать) компьютеров на моих историях? Даже если бы мог, нет. Я бы уподобился королю Кнуду, запрещающему приливу подходить к берегу. Или луддиту, пытающемуся остановить промышленный прогресс, разбивая паровой станок на куски.
Нервничаю ли я? Чувствую ли, что на мою территорию посягают? Пока нет, вероятно, потому что я достиг довольно почтенного возраста. Но я скажу вам, что эта тема всегда заставляет меня думать о самом пророческом романе — «Колоссе» Д. Ф. Джонса. В нем всемирный компьютер действительно обретает сознание и говорит своему создателю, Форбину, что со временем человечество полюбит и начнёт уважать его. (Как, полагаю, многие из нас любят и уважают свои телефоны.) Форбин кричит: «Никогда!» Но последнее слово остается за рассказчиком, и достаточно всего одного слова:
"Никогда?"