Найти тему
10,2 тыс подписчиков

LangChain + Streamlit + LlaMA: установка диалогового бота с ИИ на локальный компьютер


LLM — это модели машинного обучения, способные создавать тексты на языке, близком к человеческому, и воспринимать промпты (запросы) естественным образом. Эти модели проходят обучение на обширных массивах данных, включающих книги, статьи, сайты и другие источники. Выявляя в предоставляемых данных статистические закономерности, LLM предсказывают наиболее вероятные слова и фразы, которые должны следовать за введенным текстом.

LangChain — это фреймворк, находящийся в свободном доступе. Он помогает разработчикам создавать приложения на основе языковых моделей, в частности LLM.

В данной статье мы рассмотрим пошаговый процесс создания с нуля личного помощника по работе с документами. Будем использовать LLaMA 7b и Langchain, библиотеку с открытым исходным кодом, специально разработанную для бесшовной интеграции с LLM.


LangChain + Streamlit + LlaMA: установка диалогового бота с ИИ на локальный компьютер  LLM — это модели машинного обучения, способные создавать тексты на языке, близком к человеческому, и воспринимать
Около минуты