Нисходят проникновенные стихи страсти…
Игра Llama 3 Erato, доступная исключительно подписчикам Opus, открывает нам новую эру повествования.
Основанная на Llama 3 70B с размером контекста 8192 токенов, она, безусловно, самая мощная из наших моделей. Она гораздо умнее, логичнее и связнее любой из наших предыдущих моделей, и позволит вам больше сосредоточиться на рассказе историй, которые вы хотите рассказать.
Мы напрягали мускулы повествования, усиливая нашу самую сильную и грозную модель! Мы вылепили визуальную форму, такую же прочную и внушительную, как возможности нашего нового ИИ, чтобы представить эту непревзойденную силу. Erato, сестра-муза, следует по стопам нашей предыдущей модели на основе Меты, Эвтерпы. Высокая, точеная и крепкая, она отражает силу эпического стиха. Украшенная торжествующими лавровыми венками и венком, которые соединяют сильные и мягкие стороны ее дизайна с нежностью роз. Обученная на вычислительной машине Shoggy, она даже несет на талии отсылку к нашей маленькой электростанции.
Для тех из вас, кто интересуется более техническими подробностями, Erato основана на базовой модели Llama 3 70B с постоянным обучением на самых высококачественных и обновленных частях нашего набора данных предварительной подготовки Nerdstash для сотен миллиардов токенов, тратя больше вычислений, чем было потрачено на предварительную подготовку Kayra с нуля. Наконец, мы настроили ее с помощью нашего обновленного набора данных сторителлинга, специально подгоняя ее под поставленную задачу: рассказывание историй. Вначале мы экспериментировали с заменой токенизатора на наш собственный токенизатор Nerdstash V2, но в итоге решили продолжить использовать токенизатор Llama 3, потому что он обеспечивает более высокую степень сжатия, позволяя вам вписать больше вашей истории в доступный контекст.
Как уже упоминалось, мы обновили наши наборы данных, поэтому вы можете ожидать от модели расширенные знания. Мы также добавили новый тег оценки в наш ATTG. Если вы хотите узнать больше, проверьте официальную документацию NovelAI .
Мы также добавляем еще одну новую функцию в Erato — продолжение токенов. В наших предыдущих моделях при попытке заставить модель завершить для вас частичное слово необходимо было знать, как это слово токенизируется. Продолжение токенов позволяет модели автоматически завершать частичные слова.
Модель также должна быть вполне способна писать на японском языке, и, хотя она далеко не идеальна, ее многоязычные возможности в целом улучшены.
На данный момент у нас нет планов по переносу Erato на более низкие уровни, но мы рассматриваем возможность сделать это в будущем.
Всплывающее окно соглашения, которое вы видите при первом использовании Erato, — это то, что лицензия Meta требует от нас предоставить вместе с моделью. Как всегда, цензуры нет, и ничего из того, что предоставляет NovelAI, не работает на серверах Meta или не подключено к инфраструктуре Meta. Модель работает на наших собственных серверах, истории зашифрованы, и нет журналирования запросов.
Llama 3 Erato теперь доступна на уровне Opus, поэтому заходите на наш сайт, изучайте несколько практических историй и почувствуйте, как огонь творчества струится сквозь ваши пальцы, раскрывая весь ее потенциал!