Любой человек рано или поздно начинает тонуть в рутине, особенно это касается DevOPS. CTO так же волнует вопрос - трудозатрат и куда уходит время инженеров на запуске и поддержке проектов. А после всех волнует хаос в том, где все работает и как вообще это упорядочить.
Не так давно я тоже тонул в этой рутине и искал пути решения. На одной из встреч с ребятами из МТС, они показали мне свою экосистему (не всю конечно), но увиденного мне хватило, чтобы понять что мне лично можно навсегда выкинуть из своей рутины дел.
Всеми любимое слово цифровизация, автоматизация и прочая чушь ни что по сравнению с тем, чтобы обычному человеку выйти из рутины мелких дел. Как ни странно, но на сегодня столько много Low-code и даже No-code систем автоматизации, что для их обзора понадобится не одна статья.
В поисках оптимального для себя решения, я выбрал LangFlow для локального развертывания в Docker. Ссылки на готовый проект в GIT будет в конце статьи.
Первое знакомство LangFlow
Запуск системы не составил труда, так как все описано в документации. Трудозатрат всего на 15 минут оказалось и моему взору предстает стартовый экран LangFlow.
Далее мы попадем в набор темплейтов (Templates). Набор скажу сразу меня удивил и радовал. Из коробки мы получаем внушительное количество ассистентов, конфигураций разного характера и набор работы с базами данных. Выглядит это вот так:
На примере любого templates можно сделать свои правки и получить рабочую структуру за несколько минут. Давайте поставим себе задачу и решим ее.
Задача: Собрать SEO параметры в виде title \ keywords для каталога товаров
Выбрав ассистента открывается рабочее поле (flow) выглядит оно так просто и сразу скажу удобно и понятно.
Описывать каждый элемент меню и что за чем строится, смысла не имеет - очень хорошая документация (При желании могу провести онлайн разбор и демонстрацию). Сосредоточимся на задаче.
Подготовка промтов
Все начинается с создания каркаса данных которые мы будем передавать и обрабатывать AI,а на конечном этапе получать результаты в базе данных или чате.
Когда параметры готовы, переходим к самому важному описанию что мы ходим. В самом описании можно применять параметры заданные на прошлом шаге, описывать что нужно получить.
На шаге создания промта нужно очень внимательно и грамотно продумать сам промт. Чем корректней он сделан, тем лучше результат на выходе.
Настройка использования языковой модели
Добрались мы до самого интересного - это языковые модели.
В LangFlow можно подключать свои локальные модели через конфигурацию контейнера. Я попробовал сделать это через Ollama, живет отлично но так как это был мой первый опыт запуска LangFlow, я пока обживаюсь в системе.
В общем суть работы с моделями сводится к заполнению полей доступа, API urls и Kye. Это базовый компонент.
Простейший пример общения в чате с AI DeepSeek
Вот так выглядит простейший чат с DeepSeek построенный на LangFlow
Разобраться с системой может любой желающий.
Что на выходе?
Как вы успели заметить после выполнения промтов, на выход мы получим данные в чат. Да в LangFlow он встроен и мы получим очень даже качественные данные. Если правильно сделали промт, можно даже с разметкой!
1. LangFlow как и любая AI заблокированная в нашей стране, требует VPN. Ошибка будет выглядеть вот так:
2. При использовании API если настройки не верные, получите вот такое сообщение:
Поэтому внимательно проверяйте доступы, смотрите на то, куда и что вы подключете.
Если вы все сделали правильно, у вас будет вот такой ответ
Вот собственно и все, а дальше уже можно играться как вам удобно. Запускать скрипты и прочие штуки, которые вам помогут уйти от рутины.
Что я сделал для себя и расскажу в следующих статьях:
1. Проверку важных контрольных точек на проектах в коде (Хожу в GIT ветки и смотрю последние комиты разработчиков, чтобы понимать как идет движение).
2. Генерирую дайджест выполненных задач за неделю. Это у меня раньше отвлекало часа два в день. Теперь я получаю готовый отчет когда пью чай утром.
3. Для теста сделал себе подборку новостей по интересующим меня темам через парсинг RSS лент новостников. Вроде штука интересная но уже пару дней как не прижилась так как дублирует новости, надо работать с парсером и пост обработкой - но это мне неохота так как не нужная штука.
Бонусы для тех кто дочитал до конца.
Первый бонус:
Как и обещал прилагаю ссылку на готовый проект в Docker на GIT.
Второй бонус:
В поставке уже собран кастомный компонент для DeepSeek, вам достаточно указать свои данные доступа и все будет работать после сборки Docker.
Третий бонус:
Все кто подпишется на TG канал и Дзен, получит приглашение в закрытый линк GIT где еще больше возможностей
Всех мужчин Денем защитника Отечества!