Запускай нейросети на своём Mac! 💻✨
Разработчики из Dinoki Labs представили Osaurus — мощный инсрумент, который позволяет запускать нейросети локально прямо на чипах Apple Silicon. 🧠💡
Osaurus напоминает популярный Ollama, но создан специально для экосистемы macOS. Он основан на фреймворке Apple MLX, а интерфейс выполнен на SwiftUI, что обеспечивает идеальную интеграцию.
Что умеет Osaurus:
Менеджер моделей: поддерживает популярные модели, такие как Llama, Gemma, Mistral, а также позволяет добавлять свои вручную.
Совместимость: поддерживает форматы SSE и NDJSON, совместим с OllamaKit и клиентскими библиотеками Ollama.
Инструменты: можно вызывать функции и инструменты, как в OpenAI (tools, tool_choice, tool_calls).
Мониторинг: позволяет в реальном времени отслеживать загрузку CPU и RAM прямо в приложении.
Для установки вам понадобится Mac на чипе Apple Silicon с macOS 15.5+. Готовый файл для установки уже доступен на GitHub.
Репозиторий проекта: https://github.com/dinoki-ai/osaurus
Подпишись на канал
