Группа «Т-Технологии» разработала и выпустила в открытый доступ две большие языковые модели (LLM): T-Pro на 32 миллиардов параметров и T-Lite на 7 миллиардов параметров. Российские компании могут совершенно бесплатно использовать их в своих целях без необходимости создания собственных моделей.
По словам разработчиков, T-Pro и T-Lite показали лучшие результаты среди всех больших языковых моделей на русском языке во многих бенчмарках, включая MERA, ruMMLU, Ru Arena Hard, MT Bench и AlpacaEval. Они превосходят аналоги по общему уровню знаний, умению вести диалог и выполнять практические задачи. В отличие от универсальных решений, таких как ChatGPT, они предназначены для решения конкретных узкоспециализированных задач.
На базе представленных языковых моделей компании могут создавать чат-ботов для общения с клиентами и ассистентов для своих сотрудников. Например, это могут быть помощники в написании кода, составлении отчётов и проведения исследований. Использование LLM от «Т-Технологии» позволяет бизнесу сэкономить время и ресурсы, а также не платить комиссии сторонним разработчикам за их проприетарные модели.
В сравнении с предыдущей версией T-Lite в T-Pro увеличилось число параметров — с 7 до 32 миллиардов. Это позволяет модели учитывать больше контекста и особенностей языка, лучше запоминать информацию, делать более точные и сложные выводы. Модель можно дообучить под конкретные бизнес-задачи или использовать в режиме промптинга — ставить задачи в режиме диалога.
Обновлённая версия T-Lite подходит для дообучения под конкретные бизнес-задачи. Разработчики выделяют несколько ключевых улучшений в сравнении с прошлой итерацией:
- лучше улавливает контекст, понимает сложные запросы и выдаёт более точные ответы;
- создаёт тексты, которые ближе к человеческому стилю письма, с меньшим количеством ошибок и большей логической связностью;
- легко дообучается под нужды конкретных отраслей.
Модели T-Lite и T-Pro уже доступны для скачивания на платформе Hugging Face.