Автор Аманда Силберлинг
На протяжении 17-летней истории Clarkesworld, известного литературного журнала научной фантастики и фэнтези, авторы размышляли о том, как развивающиеся футуристические технологии повлияют на наш мир. Теперь редактор и издатель Нил Кларк переживает фиаско, которое вполне могло бы стать самостоятельным научно-фантастическим рассказом: его журнал неконтролируемо завален короткими рассказами, созданными с помощью инструментов ИИ.
«Это иронично, я так скажу», — сказал Кларк TechCrunch. Clarkesworld имеет репутацию компании, которая всегда открыта для подачи рассказов, в то время как многие издатели короткометражных рассказов принимают заявки только в определенные короткие промежутки времени. Но впервые количество заявок настолько вышло из-под контроля, что Кларк принял то, что он называет «спонтанным решением», чтобы закрыть портал подачи заявок (в прошлом Clarkesworld закрывался лишь ненадолго при обновлении своего веб-сайта или программное обеспечение).
«С этими инструментами легко создавать сотни тысяч работ за то время, которое автор-человек создал бы, может быть, одну или две», — сказал Кларк TechCrunch. «По сути, у нас есть комната кричащих малышей, и мы не слышим людей, которых пытаемся слушать».
Кларк не драматизирует. В сообщении в блоге он поделился диаграммой за период с июня 2019 года по февраль 2023 года, которая показывает, сколько ежемесячных материалов его сотрудники помечали как спам. До начала этого года количество спам-рассылок никогда не превышало 25 в месяц, а многие месяцы спама вообще не было. Прежде чем закрыть сообщения в понедельник, Clarkesworld получил более 500 сообщений спама только в феврале месяце. Для сравнения, согласно блогу Кларка, в 2022 году Clarkesworld получил около 11 500 заявок.
Как и многие споры вокруг визуального искусства, созданного искусственным интеллектом, такие рассказы вызывают вопросы о плагиате. В общих чертах, модели OpenAI, такие как ChatGPT и GPT-3, в основном обучаются на тексте из Интернета, который включает защищенные авторским правом истории из таких изданий, как Clarkesworld.
Если бы история, созданная ИИ, заслуживала публикации в Clarkesworld, то публикация должна была бы иметь дело с определенными этическими вопросами. Но Кларк говорит, что эти истории никуда не годятся. Эти алгоритмы генерации текста созданы не для того, чтобы нас развлекать или удивлять; они анализируют шаблоны в массивных наборах данных, чтобы отвечать на запросы и определять, что, скорее всего, является желаемым результатом.
DALL-E, Midjourney и другие генераторы изображений с искусственным интеллектом могут создавать некоторые визуально интересные, если не производные, работы, но когда вы прокручиваете аватар вашего друга, созданный искусственным интеллектом в Instagram, вы не тратите много времени на работу. Если вы читаете художественное произведение из 5000 слов, вам нужно будет посвятить около 15 минут или больше истории, которая изначально разработана так, чтобы быть как можно более предсказуемой и скучной.
Решение Кларк закрыть прием материалов нарушило условия политики сдерживания, ускользнув от изолированного научно-фантастического сообщества, чтобы спровоцировать еще один раунд интернет-дебатов о том, может ли ИИ создавать хорошее искусство.
«У меня никогда раньше не было такого вирусного твита», — сказала Кларк. «Есть люди, которые видят в этом продвижение повестки дня — ИИ — это плохо или ИИ — это фантастика, и мы должны принять его… Я понимаю многое из этого. Очевидно, я просто хочу выяснить, как узнать, работаю ли я с кем-то, кто здесь серьезен».
Для Кларка, его сотрудников и претендентов, которые присылают свои истории, этот поток заявок означает, что остается меньше времени, чтобы посвятить работе с настоящими, начинающими писателями-фантастами, которые искренне заинтересованы в улучшении своего письма. Вместо этого Кларк застревает в банальной прозе.
«По сути, это старая история обо всех работающих обезьянах, которые когда-нибудь воспроизведут Шекспира», — сказал Кларк TechCrunch. «Но нам нужно прочитать их все, чтобы выяснить, кто из них на самом деле Шекспир».
Некоторое программное обеспечение утверждает, что оно способно определить, когда отправка является плагиатом или когда она создается такими инструментами, как ChatGPT. Но Кларк не считает эти дорогостоящие программы очень точными. Кайл Виггерс из TechCrunch протестировал семь различных текстовых детекторов ИИ и обнаружил, что ни один из них не был особенно эффективным. OpenAI даже оценивает, что его собственный инструмент для обнаружения синтетического текста пропускает 74% текста, сгенерированного ИИ.
Это трудная задача для венчурных компаний с многомиллиардной оценкой, не говоря уже о независимом издателе научной фантастики.
Кларк проявляет особый интерес к публикации зарубежных авторов, но он заметил, что писатели, не являющиеся носителями английского языка, иногда помечаются этими детекторами как спам.
«Мы осознаем тот факт, что то, что может показаться подозрительным, на самом деле может быть просто особенностью того, как они выучили английский», — сказал Кларк. Это делает еще менее осуществимым использование какого-либо программного обеспечения для автоматического сканирования для просеивания историй.
Этот поток представлений исходит не от ботов — Кларк считает, что это настоящие люди, которые пытаются быстро заработать с минимальными усилиями. Даже Amazon наблюдает резкий рост числа самоиздаваемых электронных книг, созданных искусственным интеллектом.
«Большинство этих материалов, которые приходят к нам, исходят не от научно-фантастического сообщества», — сказал он. «Они исходят от людей, которые следят за различными сторонними блогами, каналами YouTube или TikTok, и они просто что-то штампуют и рассылают в надежде быстро заработать».
Кларк сказал, что некоторые научно-фантастические публикации сталкиваются с теми же проблемами, особенно те, которые всегда открыты или платят более высокие ставки. Трудно сказать, почему научно-фантастические журналы несут на себе основную тяжесть наводнения, вызванного ИИ — помимо иронии всего этого, это может быть потому, что научно-фантастические издания, как правило, платят больше.
Чтобы Ассоциация писателей-фантастов и писателей-фэнтези считала «профессиональным» рынком короткометражных произведений, публикации должны платить не менее восьми центов за слово.
Может показаться, что это немного, но издания, печатающие нежанровую художественную литературу или поэзию, не имеют таких же правил, а это означает, что они часто платят еще меньше или не платят вообще. Таким образом, отправители спама могут не считать эти рынки достойными внимания.
«Мы нашли пару первоисточников для списков, в которых мы указаны как место для отправки ваших материалов, на которые ссылаются эти гуру чат-ботов, рассказывающие людям, как зарабатывать деньги», — добавил Кларк. «Мы отслеживаем трафик с этих сайтов, поэтому знаем, каков их источник, а еще у меня есть друг из другого журнала, который также находится в этом списке. И мы ясно видим, что они ниже в списке, и мы оба получаем материалы от одного и того же человека, и они всегда на несколько минут позже. Так что они продвигаются вниз по списку».
Кларк не сообщил, когда он снова откроет свой журнал для отправки материалов, но пока он изучает способы защиты от спама.
«У вас очень серая зона. Это новая проблема, с которой сталкивается индустрия, и потребуется некоторое время, чтобы избавиться от этих деталей», — сказал Кларк. «Поэтому мой общий совет авторам: если вы считаете, что это может быть подозрительно, не делайте этого».
