Найти в Дзене

SwiReasoning улучшает точность LLM через смену режима

SwiReasoning улучшает точность LLM через смену режима Исследователи из Georgia Tech и Microsoft представили AI-фреймворк SwiReasoning для ускорения и повышения точности языковых моделей. SwiReasoning автоматически переключает модель между двумя способами мышления: «chain-of-thought» (пошаговое объяснение на тексте) и «latent reasoning» (обработка внутри векторного пространства без текстового вывода). Фреймворк выбирает режим по уровню неуверенности модели, который вычисляется через энтропию вероятностей токенов. Если энтропия… Подробнее

SwiReasoning улучшает точность LLM через смену режима

Исследователи из Georgia Tech и Microsoft представили AI-фреймворк SwiReasoning для ускорения и повышения точности языковых моделей.

SwiReasoning автоматически переключает модель между двумя способами мышления: «chain-of-thought» (пошаговое объяснение на тексте) и «latent reasoning» (обработка внутри векторного пространства без текстового вывода).

Фреймворк выбирает режим по уровню неуверенности модели, который вычисляется через энтропию вероятностей токенов. Если энтропия…

Подробнее