Amazon предпринял некоторые шаги, чтобы остановить волну книг, написанных с помощью искусственного интеллекта, но, возможно, уже существует другое решение.
У AMAZON ЕСТЬ проблема искусственного интеллекта. А именно, что его «магазин всего» наполнен книгами, написанными ботами. Несколько стартапов по обнаружению ИИ говорят, что у них есть простое решение, которое может помочь клиентам: сообщить им, когда книга создана ИИ. Однако пока Amazon не использует технологию обнаружения.
Неясно, сколько именно книг, созданных искусственным интеллектом, в настоящее время продается на платформе, которая является одновременно крупнейшим продавцом книг в мире и поставщиком самой популярной системы самостоятельной публикации Kindle Direct Publishing. Определенные жанры, такие как путеводители и справочники по собиранию пищи , заметно пострадали от избытка некачественных изданий. То же самое можно сказать и о списках бестселлеров любовных романов для подростков и молодежи, которые автор Кейтлин Линч назвала « ерундой искусственного интеллекта » на X (FKA Twitter) ранее этим летом.
В некоторых из этих книг, созданных ИИ, даже используются имена и изображения авторов-людей; Этим летом, например, писательница и эксперт издательской индустрии Джейн Фридман обнаружила на Amazon пять отдельных книг, ошибочно выставленных как ее произведения. Одно из мошеннических названий: «Как быстро написать и опубликовать электронную книгу».
КОНЕЧНО, ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ боты не создают эти книги самостоятельно. (Тем не менее.) На YouTube есть целый ряд видеороликов о культуре суеты, призывающих людей быстро разбогатеть, создавая произведения, созданные с помощью ИИ, для Kindle, с такими заголовками, как «Как создать НЕОБНАРУЖАЕМЫЙ контент с ИИ для Amazon KDP (гарантированный метод)». К несчастью для обычных людей, пытающихся покупать книги в Интернете, эта новая схема зарабатывания денег затрудняет поиск высококачественных книг, написанных людьми.
За последние несколько недель Amazon предпринял шаги для решения этой проблемы, ограничив количество книг, которые автор может публиковать самостоятельно, и введя политику , требующую от авторов, публикующих самостоятельно, раскрывать информацию о том, создана ли работа с помощью искусственного интеллекта. Но три разных стартапа по обнаружению ИИ по отдельности сообщили WIRED, что Amazon и другие интернет-книготорговцы могут использовать их услуги для активной пометки материалов, созданных ИИ.
Reality Defender, один из самых известных новых стартапов в области обнаружения искусственного интеллекта, начал с фокуса на дипфейковых изображениях, но с тех пор расширил свои услуги, включив в него также обнаружение текста. В список его клиентов уже входят несколько громких имен, в том числе Visa, Microsoft, Министерство обороны США и Министерство внутренней безопасности США. Генеральный директор и соучредитель Бен Колман говорит, что в настоящее время компания имеет возможность предлагать эти услуги в том масштабе, который потребуется Amazon. «Пока на английском языке», — говорит он.
Другие стартапы, занимающиеся обнаружением искусственного интеллекта, разделяют столь высокий уровень уверенности. «Мы вполне можем предоставить эту технологию платформам электронной коммерции, и в настоящее время мы ведем переговоры об этом с различными поставщиками», — говорит руководитель аппарата GPTZero Джонатан Уайт.
Основатель Winston AI Джон Рено также говорит, что его компания могла бы «абсолютно» оборудовать платформы электронной коммерции, такие как Amazon, для обнаружения электронных книг, созданных с помощью ИИ. В число клиентов компании уже входят несколько издательств.
НАРАСТАЮЩИЙ ХОР Большинство голосов в издательском мире считают, что Amazon и другие книготорговцы обязаны, по крайней мере, попытаться сообщить клиентам, написаны ли книги, которые они просматривают, людьми или машинами.
«Amazon этически обязана раскрыть эту информацию. Авторы и издатели уже должны обнародовать эту информацию, но если они этого не сделают, то Amazon должен будет обязать это сделать — вместе с каждым ритейлером и дистрибьютором», — говорит Джейн Фридман. «Не делая этого, мы как отрасль порождаем недоверие и путаницу. Автор и книга начнут терять тот значительный авторитет, которым они пользовались до сих пор».
«Мы выступаем за принятие закона, который требует, чтобы материалы, созданные с помощью ИИ, помечались как таковые платформами или издателями по всем направлениям», — говорит генеральный директор Гильдии авторов Мэри Расенбергер.
У Amazon есть очевидный стимул сделать это. «Им нужны счастливые клиенты», — говорит Расенбергер. «И когда кто-то покупает книгу, которая, по его мнению, написана человеком, и получает что-то, созданное искусственным интеллектом и не очень хорошее, он недоволен».
ТАК ПОЧЕМУ БЫ И НЕТ компания использует инструменты AI-обнаружения? Зачем ждать, пока авторы раскроют, использовали ли они ИИ? На прямой вопрос WIRED, рассматривается ли возможность превентивной маркировки ИИ, компания отказалась ответить. Вместо этого представитель Эшли Ваничек представила письменное заявление об обновленных правилах компании и ограничениях на объемы для авторов, публикующих самостоятельно. «Amazon постоянно оценивает новые технологии и стремится предоставить авторам и клиентам наилучшие условия для покупок, чтения и публикации», — добавил Ваничек.
Это, конечно, не означает, что Amazon не использует такого рода технологии — просто в настоящее время компания хранит молчание о любых обсуждениях, которые могут происходить за кулисами. Существует ряд причин, по которым компания может осторожно подходить к обнаружению ИИ. Во-первых, существует скептицизм относительно того, насколько точны результаты этих инструментов в настоящее время.
В марте прошлого года исследователи из Университета Мэриленда опубликовали статью, в которой обвиняли детекторы искусственного интеллекта в неточности. «Эти детекторы ненадежны в практических сценариях», — написали они . В июле этого года исследователи из Стэнфорда опубликовали статью, в которой показано, как детекторы обнаруживают предвзятость в отношении авторов, не являющихся носителями английского языка.
Некоторые детекторы отключились после того, как решили, что они недостаточно хороши. OpenAI удалила собственную функцию классификации ИИ после того, как ее раскритиковали за ужасающую точность.
Проблемы с ложными срабатываниями привели к тому, что некоторые университеты прекратили использование различных версий этих инструментов при написании студенческих работ. «Мы не считаем, что программное обеспечение для обнаружения ИИ является эффективным инструментом, который следует использовать», — написал в августе Майкл Коли из Университета Вандербильта после неудачного эксперимента с программой обнаружения ИИ Turnitin. Штат Мичиган, Северо-Западный университет и Техасский университет в Остине также на данный момент отказались от использования программного обеспечения для обнаружения Turnitin.
Хотя Гильдия авторов поощряет пометку ИИ, Расенбергер говорит, что она ожидает, что ложные срабатывания станут проблемой для ее членов. «Об этом мы еще много услышим, уверяю вас», — говорит она.
Обеспокоенность по поводу точности нынешних программ обнаружения вполне разумна — и даже самые профессиональные детекторы никогда не будут безупречными — но они не отменяют того, насколько приветствуются пометки ИИ для покупателей онлайн-книг, особенно для людей, ищущих документальную литературу. титулы, которые ожидают человеческого опыта. «Я не думаю, что будет спорным или необоснованным утверждение, что читателей волнует вопрос о том, кто несет ответственность за выпуск книги, которую они могут купить», — говорит Фридман.
Оригинальная статья тут.
