192 подписчика
Работаю над проектом интеграции 1С платформы с локальной LLM моделью (LM Studio, модель google/gemma-4-e4b).
С автором можно связаться в телеграмм @Yuriy_EB (efficient business)
Сегодня отладил функцию передачи файла в локальную LLM. Отработан механизм передачи текстового файла (txt, XML, html) и файлов изображений. Большая языковая модель принимает запрос, формирует ответ, и отправляет это в 1С. Для решения этой задачи пришлось повозиться с документацией к LM Studio на сайте разработчиков. В итоге - все заработало.
Теперь по плану:
1. Создать механизм очереди запросов в 1С конфигурации. Машина будет формировать очередь запросов и регламентное задание (фоновое задание) будет посылать запросы в сторону LLM.
2. Подготовить перенос всей этой системы на новый комп и перенести (купил специально новую машинку, чтобы запросы обрабатывались раз в 40-50 быстрей).
На первом слайде - отладочное окно с логами. LLM отработала и в логи записала ответ (JSON-строка).
На втором слайде - пришедший ответ на стороне 1С. Та же самая JSON-строка.
На третьем слайде - пример изображения, на котором тестировал распознавание и описание изображений (машина распознала, около 400-500 токенов тратит на исходящий ответ. Бабочку видит, звездочки тоже - все хорошо).
На четвертом слайде - пример данных для анализа (XML-файл). LLM видит и понимает данные в нем. Все, ради чего весь проект делается.
С автором можно связаться в телеграмм @Yuriy_EB (efficient business)
1 минута
30 июля