90 подписчиков
Два крупных релиза от запрещёнки:
Llama 3:
* Идёт в размерах на 8B и 70B параметров. Первый вариант может влезть на бюджетную видюху.
* Контекстное окно 8K
* Натренирована на 15T токенов
* Топ на бенчмарках среди открытых моделей и большинства закрытых, включая Claude 3 Sonnet и Gemini Pro 1.5. Уступает только последним версиям GPT-4.
* Будет ещё 400B версия с 128К контекстом, но она пока тренится
Блогпост с анонсом. Початиться онлайн можно, например, на hugging.chat или TogetherAI, а погонять локально скачав с хаггинга или в интерфейсах LM Studio или Ollama. Есть ещё квантизированный GGUF варик, как и MLX для маков. Сравнить ламу 3 с другими моделями на арене.
Image Flash
Это в 10 раз ускоренная и дистиллированная версия генератора картинок Emu, выдающая за несколько шагов хорошее качество. Генерация идёт в реальном времени пока печатаете, сродни последним вариациям LCM или SDXL Turbo. Погонять можно в WhatApp и на сайте (нужен IP на США). Пишешь "Imagine" и написанное дальше показывается в превью, а финальную картинку можно анимировать кликнув "Animate". Есть пост и детальная статья.
Около минуты
20 апреля 2024