Вышла новая модель Gemma 3n, которая работает без интернета, требует мизерное количество памяти и, как говорят, стала умнее в задачах программирования.
И это не просто какая-то урезанная демка. Модель уже показывает зубы: её старшая версия стала первой в своей весовой категории (до 10 миллиардов параметров), которая преодолела важный порог качества на арене для нейросетей LMArena.
Главная фишка
Самое важное в Gemma 3n — она локальная. Модели требуют всего 2-3 ГБ оперативной или видеопамяти.
Это означает, что вы можете создавать приложения с ИИ, которые не зависят от интернета, не сливают данные пользователей в облако и не требуют платных подписок на API.
Для программиста это открывает совершенно новые горизонты:
- Полная приватность. Можно спокойно работать с коммерческим кодом, не опасаясь, что он утечёт через облачный сервис.
- Автономность. Ваше приложение с ИИ будет работать в самолёте, в метро, в глухой деревне — где угодно.
- Скорость. Никаких сетевых задержек. Отклик от модели будет мгновенным, что критично для интерактивных инструментов вроде умного автодополнения кода.
Архитектура «Матрёшка»: выбери свой размер
Инженеры Google придумали хитрую архитектуру MatFormer, или «Матрёшка». Суть в том, что одна большая модель содержит в себе несколько моделей поменьше, как в известной русской игрушке.
Что это даёт на практике? Вы можете выбрать:
- Максимальную мощность (E4B), если позволяет железо.
- Максимальную скорость (E2B), которая работает почти вдвое быстрее, но чуть уступает в качестве.
- Свой собственный размер, идеально подогнанный под задачу.
Это уже не просто чёрный ящик, а гибкий инструмент, который можно настроить под себя.
Google утверждает, что модель получила значительные улучшения в математике, логических рассуждениях и в программировании.
Где попробовать?
Самое приятное, что Gemma 3n — это не бумажный анонс. Модель уже доступна и поддерживается популярными инструментами:
- Ollama (самый простой способ запустить у себя)
- llama.cpp
- И многими другими.
Можно скачать веса и начать экспериментировать хоть сегодня.
В итоге мы имеем не просто очередную нейронку, а потенциально новый класс инструментов для разработки. Компактных, приватных и полностью подконтрольных. Это очень интересный сдвиг от гигантских облачных моделей к чему-то более персональному и доступному.