Институт искусственного интеллекта вместе со Сбером разрабатывает новое семейство ИИ-систем. Эти модели призваны стать "когнитивным ядром": они не требуют значительных вычислительных ресурсов, но при этом могут работать с внешними базами данных, поисковыми системами и другими инструментами
Современные большие языковые модели становятся все более громоздкими. Каждое новое поколение содержит миллиарды параметров и пытается хранить знания внутри себя, что делает их дорогими в обучении и использовании. Кроме того, такие модели часто игнорируют контекст, предоставленный пользователем, и генерируют правдоподобные, но неверные ответы — галлюцинации.
Здесь вместо модели-"энциклопедии" было создано компактное ядро, которое анализирует информацию, строит логические связи и обращается к внешним источникам.
Первая модель отвечает на вопросы, опираясь на предоставленные документы, связывает факты из разных частей текста и отказывается от ответа, если данных недостаточно. Результат выдается в виде структурированного ответа с логикой и цитатами из источников.
Модель доступна в версиях на 0,6 и 1,7 млрд параметров и может работать на ноутбуке или смартфоне.
Модель открыта для использования в финансовых сервисах, корпоративных базах знаний, поддержке клиентов, юридических, медицинских и комплаенс-системах.
Следующий этап — превратить её в полноценное агентное ядро. Разработчики хотят, чтобы модель самостоятельно искала недостающую информацию: обращалась к поисковым системам, базам данных, корпоративным сервисам или другим ИИ-моделям.
"Для прикладных задач важнее не объем памяти модели, а её способность рассуждать и опираться на данные.
Источник: http://government.ru/
Для тех, кто хочет быть в курсе всех законодательных нововведений и изменений, напоминаем о системе "Техэксперт". Там вы найдёте всю необходимую документацию, справочники и инструкции, а также свежие новости и обновления
Техэксперт станет вашим незаменимым помощником в работе
Статья подготовлена командой Техэксперт.
Получите бесплатный доступ к системе на 7 дней. Оставьте заявку на сайте тех-эксперт.рус