💻 Промежуточные итоги: подключаю локальный AI к личной базе знаний

💻 Промежуточные итоги: подключаю локальный AI к личной базе знаний

(Spoiler: пока не взлетело, но идею не бросаю)

🔹 В чем была задумка:

-Локальный AI — развернут на своем железе, без отправки данных в облака.

-Безопасность — можно работать с конфиденциальными и рабочими проектами.

-Кастомизация — дообучение под свои задачи и данные.

🔹 Что пробовал

Стек: Ollama + Deepseek R1 (малая квантовка).

Железо: MacBook air M1, 16 ГБ RAM.

🔹 Итог

Пока слишком медленно — вырубил, чтобы не тратить ресурсы.

🔹 Что получилось

✅ Научил AI писать Use Cases по шаблону:

1. Берем контекст проекта (из заметок).

2. Добавляем описание задачи.

3. Даем промт: "Сгенерируй UC по шаблону, используя данные о проекте и задаче". (шаблон из заметок)

Работало неидеально, но экономило время по сравнению с чистым листом.

🔹 Планы

-Разобраться глубже в оптимизации локальных моделей.

-Попробовать онлайн-модели, но внутри защищенной базы знаний.

-Потестировать корпоративный AI для рабочих задач.

📌 Вывод: Идея жива, но требует доработки. Вернусь к ней, когда разгребу текущие рабочие и личные задачи.

Срочно нужен m4 pro 😀