Стартапы HyperWrite и Glaive AI, представили новую большую языковую модель (LLM) Reflection 70B. Она основана на Meta Llama 3.1 70B Instruct и использует формат чата для совместимости с существующими инструментами. Особенно важно, что в Reflection 70B используется уникальный метод "отражения", который позволяет модели учиться на своих собственных ошибках и исправлять их. Это значительно улучшает точность ответов при этом позволяя сохранять при этом относительно небольшой размер модели.
Начальные тесты показывают, что Reflection 70B превосходит по некоторым параметрам другие модели, например, GPT-4o. А благодаря своей размеру, модель идеально подходит для видеокарт типа GPU Nvidia H100, полностью помещаясь в видеопамять одного видеоадаптера.
Такая компактность позволяет эффективно обучать и проводить инференс без больших затрат на мультипроцессорные конфигурации.
Команда Reflection 70B также работает над еще более мощной версией, которая называется Reflection 405B, которая будет способствовать дальнейшему развитию решений искусственного интеллекта с открытым кодом.
P.S. Вы можете установить эту модель в наш AI-чат-бот уже сейчас добавив её через интерфес OpenWebUI.
