95 подписчиков
Документация почти всегда отстает от кода. Особенно когда у вас десятки панелей, установки на Ansible и постоянные изменения в репозиториях. В HOSTKEY эту проблему решили «в лоб» и по-инженерному: запустили связку ИИ-агентов, которые сами читают Ansible-плейбуки и генерируют инструкции, а крутится все это на «пенсионерах» NVIDIA Tesla V100.
Почему вообще V100 и как их «разогнать»
Дело в том, что нам стало не хватать ресурсов под внутренние задачи: кроме генерации документации у нас работают чат-боты поддержки, переводчики и даже отдельная модель-проверяльщик «на соответствие закону о русском языке». Чтобы разобраться с этой проблемой, можно было бы взять одну A5000, но у нас в доступе имелись четыре Tesla V100 по 16 ГБ, и мы решили создать рабочую схему на их основе. И вот что получилось.
Для распределения нагрузки мы:
• подняли два экземпляра Ollama (каждый использует пару видеокарт: 0–1 и 2–3);
• завели общий каталог моделей;
• подключили обе связки в OpenWebUI — и дальше OpenWebUI сам отправляет запрос на менее загруженный экземпляр.
В итоге мы получили два параллельных потока задач на двух связках «2×16 ГБ».
Как агенты пишут документацию
Как же устроен наш конвейер? Это не один «скрипт-комбайн», а несколько специализированных агентов:
• RepoScanner забирает репозиторий и отфильтровывает лишнее;
• FileSelector выбирает файлы, которые важны именно для документации;
• DocGenerator пишет инструкцию в Markdown по строгому шаблону (и, например,убирает лишние детали );
• TranslateIT и QAChecker переводит и проверяет качество;
• Fixer вносит точечные исправления, если при проверке были выявлены проблемы.
Чтобы решение было рабочим, проводится динамический расчет размера контекста, повторные попытки при сбоях, логирование ошибок валидации и «ночная сборка», которая отслеживает изменения в репозиториях и автоматически перегенерирует статьи.
Что получилось на выходе
В результате система обслуживает сотни репозиториев, обновляет документацию почти «по факту изменений», экономит десятки часов ручной работы и снижает риск рассинхрона между кодом и инструкциями к нему. Из нюансов — генерация одной панели может занимать 3–10 минут, но обновления в день обычно нужны точечно.
👉 Полную версию статьи читайте у нас в блоге: hostkey.ru/...sii
1 минута
Вчера