🧠 Меньше — значит больше? Нейронка на 7МБ уделывает LLM-гигантов

🧠 Меньше — значит больше? Нейронка на 7МБ уделывает LLM-гигантов.

Пока все меряются миллиардами параметров, появилась моделька TRM (Tiny Recursive Model) размером всего в 7Мб, которая решает сложные логические головоломки лучше, чем гиганты вроде Gemini.

Идея проста: вместо того чтобы строить монструозную сеть, которая "думает" один раз, TRM использует крошечную двухслойную сетку, которая итеративно и рекурсивно улучшает свой собственный ответ. Она буквально "перепроверяет" и "додумывает" решение шаг за шагом.

Что по цифрам?

- На жестких головоломках ARC-AGI-2 (где Gemini 2.5 Pro набирает жалкие 4.9%) эта малышка показывает 7.8%.

- На экстремальных Судоку — 87% точности против 55% у своего более сложного предшественника.

И все это при размере <0.01% от типичной LLM.

И это полноценный опенсорс-проект на PyTorch. Авторы просто взял предыдущую сложную модель, выкинул из нее всю "биологически-инспирированную" шелуху, оставил рабочую суть — и внезапно все заработало в разы лучше.

Оказывается, изящная архитектура может быть эффективнее принципа "scale is all you need" для специализированных задач.

👉 Ссылка на статью

👉 Ссылка на репозиторий с кодом

#годный_опенсорс