Docker Swarm и GPU
Вы хотите развернуть приложение, которое может быть в облаке или локально, и вы не можете использовать что-либо предварительно созданное просто потому, что оно не дает вам достаточного контроля над всеми его функции использовать. Предположим, например, что вашему приложению для работы требуется графический процессор, и вам также по какой-то причине нужно передать динамические изображение shm. В этой статье рассматриваются две вещи: 1. Как включить доступ к графическому процессору в сервисе docker swarm? (поскольку вы не можете использовать --gpus, как в docker run) 2...
1707 читали · 1 год назад
Как установить n8n в docker c возможностью запуска локальных ИИ моделей.
В этой статье мы установим локально n8n + платформу Ollama которая позволит нам запускать ИИ модели локально и также встанет Qdrant это система управления векторными базами данных. Это позволит одной установкой закрыть все вопросы для начинающих энтузиастов n8n. Все это хозяйство сейчас в состоянии покоя кушает около 920Мб оперативной памяти. Моя тестовая машина, на которой это все крутиться, состоит из: Самое тяжелое, что я делал, и делаю постоянно это транскрибация разговора двух людей длительностью в час...