Обозреватель The Times Alexandra Alter рассказывает о том, что в книгоиздании практически отсутствуют механизмы защиты от непреднамеренной публикации романа, в значительной степени созданного с помощью ИИ:
"В течение нескольких месяцев в интернете циркулировали предположения о том, что нашумевший роман ужасов "Shy Girl" («Застенчивая девушка») был написан с помощью ИИ.
Роман, повествующий об отчаянной молодой женщине, оказавшейся в заложниках у мужчины, с которым она познакомилась в интернете, и который заставлял жить ее в качестве своего питомца, был издан самостоятельно в феврале 2025 г. Книга быстро нашла свою аудиторию среди поклонников ужасов, после чего издательство Hachette опубликовало ее в Великобритании прошлой осенью, и запланировало выпустить ее в США весной этого года, позиционируя книгу как «бескомпромиссный, пронзительный роман ужасов о мести».
Ранее в этом году Max Spero - основатель и генеральный директор компании Pangram, выпустившей программу для обнаружения ИИ, - узнал о заявлениях, касающихся книги «Shy Girl», и решил провести тест полного текста. Результаты показали, что книга на 78% создана ИИ.
«Я абсолютно уверен, что эта книга - в значительной степени либо результат работы ИИ либо получена с помощью ИИ», — сказал Сперо, который опубликовал результаты своего исследования на платформе X в январе.
За несколько месяцев, прошедших после публикации «Shy Girl» в Великобритании, большое количество читателей высказали в интернете подозрения, что автор использовала ИИ, указывая на бессмысленные метафоры и странные, повторяющиеся фразы. В конце января, когда в сети нарастал хор обвинений романа в том, что он был создан с помощью ИИ, издательство Hachette продолжало хранить молчание.
В ответ на вопросы The New York Times по поводу обвинений в использовании ИИ в романе «Shy Girl», издательство сообщило, что его импринт Orbit отменил планы по выпуску романа в США, и что Hachette прекратит выпуск британского издания этой книги.
Автор «Shy Girl» - Mia Ballard, которая, согласно её биографии, пишет стихи и живёт в Северной Калифорнии, - практически не представлена в социальных сетях и, похоже, никак не отреагировала на обвинения в использовании ИИ в своих публикациях. В электронном письме, отправленном в The Times, Баллард отрицала использование ИИ при написании «Shy Girl», утверждая, что ИИ использовала знакомая, которую она наняла для редактирования самостоятельно изданной версии романа.
Как сообщила пресс-секретарь издательства Hachette, решение об отмене публикации было принято после длительного и тщательного анализа, отметив при этом, что компания ценит человеческое творчество и требует от авторов подтверждения оригинальности их работ. Hachette также просит своих авторов сообщать о том, что они используют ИИ.
Похоже, «Shy Girl» — первый коммерческий роман крупного издательства, снятый с публикации из-за доказательств использования ИИ. Его аннулирование свидетельствует о том, что тексты, написанные с помощью ИИ, появляются не только в дешевых электронных книгах, изданных самостоятельно и заполонивших Amazon, но и проникают даже в традиционно издаваемую художественную литературу.
Сам факт, что «Shy Girl» прошла так далеко в редакторском процессе и даже была выпущена в Великобритании до того, как издатели тщательно проверили заявления об использовании ИИ, свидетельствует о том, насколько плохо многие в книжном мире готовы к развитию ИИ. Это также знаменует собой начало новой, неопределенной эры для книжного мира, поскольку редакторы и читатели все чаще задаются вопросом, написана ли проза, которую они читают, человеком или машиной.
Немногие издатели или редакторы готовы открыто говорить о том, как они обращаются с ИИ, поскольку его использование в писательской деятельности вызывает споры и является этически неоднозначным. Однако, некоторые руководители издательств опасаются, что мало что можно сделать, чтобы остановить вторжение ИИ, особенно по мере того, как технология быстро становится все более совершенной.
«Это как с плагиатом — вы полностью зависите от автора, — сказал издатель Grove Atlantic Morgan Entrekin. - Мы должны доверять нашим партнерам».
На данный момент наиболее очевидные сбои, вызванные ИИ, затрагивают сферу самиздата, где, по словам авторов, экосистема наводнена некачественными книгами, созданными с помощью ИИ. Но некоторые представители отрасли считают, что это лишь вопрос времени, когда большое количество книг, написанных с использованием ИИ, пройдут проверку редакторов крупных издательств. Технология получает всё большее распространение, как и практика издания книг, опубликованных самостоятельно, традиционными издательствами.
«Это не просто неизбежно, — говорит консультант издательской индустрии Thad McIlroy, который призвал издателей уточнять свою политику в отношении этой технологии. — Мы находимся в самом разгаре этого процесса».
После того как Макилрой узнал о выдвинутых против него обвинениях в адрес «Shy Girl» от сотрудника Pangram, он получил экземпляр книги и запросил отчеты у Pangram и двух других программ обнаружения ИИ - GPT Zero и Originality.ai. Все три программы пришли к выводу, что текст, вероятно, был в значительной степени или частично сгенерирован ИИ, при этом отчет Pangram отметил определенные фразы — в том числе «пауза ощущается как нож в груди, острый и непреклонный», и позже «я прижимаю телефон к губам, экран холодный и непреклонный» — как имеющие признаки текста, написанного чат-ботом.
Практически невозможно оценить, сколько публикуется книг, написанных с помощью ИИ, но есть свидетельства того, что эта технология привела к резкому росту числа книг. В 2025 г., как сообщила компания Bowker, собирающая данные о книжной индустрии, более 3,5 млн книг были изданы самостоятельно, по сравнению с 2,5 млн в 2024 г. В то время как традиционными издательствами в прошлом году было выпущено более 642 000 книг.
Tuhin Chakrabarty - профессор компьютерных наук в Университете Стоуни-Брук - с помощью программы Pangram проверил более 14 000 романов, изданных самостоятельно на Amazon, на предмет использования ИИ при написании. Программа обнаружила, что почти 20% романов были в значительной степени написаны с помощью ИИ. Рассматривая в основном романы, выпущенные в период с 2024 по 2025 г., Чакрабарти в его случайной выборке отметил 41% рост по сравнению с предыдущим годом в количестве романов, содержащих большое количество текста, сгенерированного ИИ.
Иногда детекторы ИИ ошибочно принимают человеческий текст за сгенерированный компьютером. Тем не менее, Чакрабарти заявил, что уверен в том, что Pangram улавливает язык чат-ботов. По словам Сперо, программа была создана для обнаружения лингвистических паттернов, часто используемых крупными языковыми моделями, такими как ChatGPT и Gemini, и имеет частоту ложных срабатываний около одного на 10 000. Она также предназначена для выявления попыток человека скрыть использование ИИ посредством редактирования.
Составив список романов, изданных самостоятельно, которые, как показал анализ Pangram, в значительной степени были созданы с помощью ИИ, Чакрабарти сосредоточился на тех из них, которые находили отклик у читателей, основываясь на количестве оценок на Goodreads и среднем количестве звезд.
Когда он составил рейтинг книг по количеству отзывов, «Shy Girl» оказалась в числе самых высоко оцененных и популярных, получив более 4840 оценок со средним показателем - 3,5 звезды.
Однако первый отзыв на странице оценивает эту книгу в одну звезду, и при этом его автор написал: «Я совершенно уверен, что это написал ChatGPT».
Многие издательства в своих договорах на издание книг не запрещают авторам использовать ИИ. Вместо этого они полагаются на давно существующие договорные пункты, требующие от авторов подтверждения «оригинальности» их работы, что многие в книжном бизнесе теперь интерпретируют как фактический запрет на использование ИИ для создания текста или изображений.
Издатели также с опаской относятся к контенту, созданному с помощью ИИ, поскольку в настоящее время текст и иллюстрации, сгенерированные ИИ, не защищены авторским правом. Тем не менее, учитывая широкое применение ИИ в исследованиях, составлении планов и на других этапах в процессе написания, остается мало ясности в отношении того, что считается допустимым использованием ИИ. Многие в отрасли опасаются, что издатели делают себя уязвимыми перед мошенниками — или даже перед писателями, которые считают, что они используют ИИ в рамках допустимого.
Одна из проблем регулирования использования ИИ писателями состоит в том, что большинство издательств не хотят полностью запрещать его. Редакторы признают, что авторы используют ИИ различными способами, не только непосредственно для написания текстов. А руководители издательств хотят гарантировать, что их сотрудники смогут использовать эту технологию для таких задач, как создание маркетинговых текстов, озвучивание аудиокниг и перевод.
Тот факт, что издательские компании, как правило, не проводят четких границ в отношении использования ИИ, сеет путаницу относительно того, что допустимо. Может ли писатель попросить ИИ предложить сюжетные повороты, альтернативную концовку или отшлифовать черновик и при этом заявить, что это оригинальное произведение? В какой момент произведение перестает быть человеческим?
Широко распространенные подозрения в отношении использования авторами ИИ поставили издателей в затруднительное положение. Многие по-прежнему считают, что традиционное издательство - единственная оставшаяся крепость для оригинальной художественной литературы, тщательно отобранной и отшлифованной опытными редакторами. Если ИИ способен создавать захватывающие произведения, а читатели и редакторы не могут определить его происхождение, это может подорвать статус издателей как законодателей литературных вкусов.
«Это действительно является проблемой, и нам необходимо найти какие-то механизмы ее защиты», — заявила Mary Rasenberger, исполнительный директор Гильдии авторов, которая от имени авторов возглавляет коллективный иск о нарушении авторских прав против OpenAI и Microsoft, обвиняя ChatGPT в незаконном обучении на произведениях писателей, защищенных авторским правом. (Газета The New York Times подала в суд на OpenAI - разработчика ChatGPT, и ее партнера Microsoft за нарушение авторских прав на новостной контент, связанный с системами ИИ. Обе компании отрицают эти обвинения).
«Есть издатели и авторы, которые считают, что качество ИИ находится на таком низком уровня, что он не может с ними конкурировать, но я не думаю, что это так в случае с новыми крупными языковыми моделями», — добавил Расенбергер.
Использование ИИ в написании текстов по-прежнему вызывает бурные споры среди авторов и читателей. Некоторые считают это формой обмана, особенно в том случае, когда читатели не понимают, что книга, которую они читают, содержит куски, сгенерированные чат-ботом. Другие воспринимают это как кражу: многие программы генеративного ИИ были обучены на нелицензионных копиях защищенных авторским правом произведений авторов.
Литературный агент Seth Fishman заявил, что авторы, которых он представляет, в основном выступают против использования ИИ в писательской деятельности. «Для авторов это не просто технология, это моральный вопрос, — сказал он. — Авторы чувствуют, что их работы украли».
Еще до выхода книги “Shy Girl” в книжном мире ходили слухи о случаях, когда издатели обнаруживали использование ИИ буквально перед выпуском книги.
Однажды, редактор крупного издательства, говоривший на условиях анонимности, поскольку редакционный процесс является конфиденциальным, спросил у писателя, почему некоторые отрывки в его последней книге такие пресные и скучные. Автор признал, что использовал ИИ для редактирования.
По словам сотрудника, отказавшегося уточнять имя автора или издательства, сославшись на конфиденциальный характер контактов в издательском деле, другое издательство обнаружило, что приобретенная им книга содержит текст, созданный с помощью ИИ, сняв ее с публикации.
Существует незначительный консенсунс, что именно следует делать для проверки книг на наличие скрытого использования ИИ в текстах. Некоторые агенты и редакторы утверждают, что издателям необходимо четко заявлять о своих ожиданиях в отношении ИИ, чтобы предотвратить путаницу или даже мошенничество со стороны авторов, которые не раскрывают информацию о своей зависимости от этой технологии.
Крупнейшее издательство США - Penguin Random House - разработало руководящие принципы, устанавливающие параметры использования ИИ для авторов и иллюстраторов, которые перекликаются с договорными положениями, предусматривающими оригинальность. Представители других крупных издательств, включая HarperCollins, Simon & Schuster и Macmillan, отказались комментировать свою политику в отношении ИИ, лишь упомянув о наличии положений об оригинальности в своих издательских соглашениях, хотя представительница издательства добавила, что Macmillan рассматривает вопросы использования ИИ отдельно в каждом конкретном случае.
Тем не менее, некоторые опасаются, что неопределенность, окружающая ИИ, и негативное отношение к этой технологии в литературном мире повышают вероятность того, что писатели будут не слишком открыто говорить о ней. «Если об этом молчать, если вы не хотите об этом говорить, люди будут злоупотреблять этим, — сказал Чакрабарти. - Стыд, окружающий ИИ, приносит больше вреда, чем пользы»."
Телеграм-канал "Интриги книги"