3 подписчика

Gemma 4 12B вышла для локального запуска

2 дня назад2 дня назад

~1 мин

💻 Google представила Gemma 4 12B — открытую мультимодальную модель для ноутбуков. Она работает с текстом, изображениями и аудио, а веса выпущены под лицензией Apache 2.0. Главное отличие — единая архитектура без отдельных мультимодальных энкодеров. Визуальные и аудиовходы передаются ближе к основной языковой модели, что снижает задержку и расход памяти. Google заявляет, что Gemma 4 12B приближается к 26B MoE по бенчмаркам, но требует меньше памяти. Для локального запуска указаны 16 ГБ VRAM или объединённой памяти. Модель доступна через Hugging Face и Kaggle. Поддержка заявлена для Ollama, LM Studio, llama.cpp, MLX, vLLM, SGLang и Unsloth. #Gemma #GoogleDeepMind #AI #OpenSource #LocalAI #LLM #MultimodalAI #Enews

Gemma 4 12B вышла для локального запуска 💻

Google представила Gemma 4 12B — открытую мультимодальную модель для ноутбуков. Она работает с текстом, изображениями и аудио, а веса выпущены под лицензией Apache 2.0.

Главное отличие — единая архитектура без отдельных мультимодальных энкодеров. Визуальные и аудиовходы передаются ближе к основной языковой модели, что снижает задержку и расход памяти.

Google заявляет, что Gemma 4 12B приближается к 26B MoE по бенчмаркам, но требует меньше памяти. Для локального запуска указаны 16 ГБ VRAM или объединённой памяти.

Модель доступна через Hugging Face и Kaggle. Поддержка заявлена для Ollama, LM Studio, llama.cpp, MLX, vLLM, SGLang и Unsloth.

#Gemma #GoogleDeepMind #AI #OpenSource #LocalAI #LLM #MultimodalAI #Enews