Ollama — это консольная утилита, с помощью которой вы запускаете генеративные AI-модели прямо у себя на компьютере. Самое свежее обновление принесло не только заметный прирост скорости, но и долгожданное официальное настольное приложение, которое существенно упростило работу с Ollama.
Если вы ещё не сталкивались с Ollama, вот в чём её суть: теперь вы можете запускать на своём ПК такие мощные AI-модели, как DeepSeek-R1, Gemma 3 от Google, Llama 3 от Meta, Phi 4 и Phi 4 Mini от Microsoft, а также LLaVA. Используйте их для живого общения в чат-режиме — наподобие ChatGPT и других онлайн-сервисов, либо подключайте к своим ботам, скриптам и автоматизациям для выполнения любых задач.
В версии 0.10 Ollama получила два по-настоящему удобных новшества. Во-первых, команда ollama ps теперь быстро подскажет, сколько контекста использует каждая из моделей. Во-вторых, OpenAI-совместимый API научился принимать изображения в формате WebP — помимо привычных JPEG и PNG.
Самое впечатляющее в обновлении — это рост скорости. Модели Gemma 3n, близкие по духу Google Gemini Nano и оптимизированные для мобильных устройств, теперь работают в 2–3 раза быстрее. А если у вас подключено несколько видеокарт, ускорение может достигать 10–30% практически для любой модели!
Кроме того, разработчики не только исправили массу багов, но и добавили полезные доработки — с полным списком изменений можно ознакомиться ниже.
Но главное событие — выход официального десктопного клиента Ollama для macOS, Linux и Windows! Теперь вы можете общаться с AI-моделями через удобный чат-интерфейс без необходимости открывать «Терминал». Раньше для этого приходилось пользоваться сторонними приложениями, вроде Open WebUI или macLlama. Теперь у Ollama появился собственный минималистичный и интуитивно понятный клиент — разобраться сможет каждый. Новая программа поддерживает моментальный ввод текста и изображений, а также работу с форматированием Markdown.
Один из разработчиков Ollama признался на Hacker News: «Мы каждый день пользуемся этим инструментом и пробовали разные прототипы — пока наконец не решили: пора делать свой официальный клиент!»
Скачать Ollama можно прямо с официального сайта проекта. Если удобнее работать через консоль — доступны версии для Homebrew и Docker Hub.
Хотите создавать AI-изображения прямо на Windows? Ловите самый удобный способ — без ограничений и лишних хлопот!
Генерация картинок с помощью ChatGPT, DALL-E или MidJourney сегодня на пике популярности. Но что делать, если хочется создавать уникальные изображения с помощью искусственного интеллекта — без интернета и без каких-либо ограничений? Рассказываю, каким простым способом это сделать на Windows.
Если вам понравилась эта статья, подпишитесь, чтобы не пропустить еще много полезных статей!
Премиум подписка - это доступ к эксклюзивным материалам, чтение канала без рекламы, возможность предлагать темы для статей и даже заказывать индивидуальные обзоры/исследования по своим запросам!Подробнее о том, какие преимущества вы получите с премиум подпиской, можно узнать здесь
Также подписывайтесь на нас в:
- Telegram: https://t.me/gergenshin
- Youtube: https://www.youtube.com/@gergenshin
- Яндекс Дзен: https://dzen.ru/gergen
- Официальный сайт: https://www-genshin.ru