🧠 Меньше — значит больше? Нейронка на 7МБ уделывает LLM-гигантов.
Пока все меряются миллиардами параметров, появилась моделька TRM (Tiny Recursive Model) размером всего в 7Мб, которая решает сложные логические головоломки лучше, чем гиганты вроде Gemini.
Идея проста: вместо того чтобы строить монструозную сеть, которая "думает" один раз, TRM использует крошечную двухслойную сетку, которая итеративно и рекурсивно улучшает свой собственный ответ. Она буквально "перепроверяет" и "додумывает" решение шаг за шагом.
Что по цифрам?
- На жестких головоломках ARC-AGI-2 (где Gemini 2.5 Pro набирает жалкие 4.9%) эта малышка показывает 7.8%.
- На экстремальных Судоку — 87% точности против 55% у своего более сложного предшественника.
И все это при размере <0.01% от типичной LLM.
И это полноценный опенсорс-проект на PyTorch. Авторы просто взял предыдущую сложную модель, выкинул из нее всю "биологически-инспирированную" шелуху, оставил рабочую суть — и внезапно все заработало в разы лучше.
Оказывается, изящная архитектура может быть эффективнее принципа "scale is all you need" для специализированных задач.
👉 Ссылка на статью 👉 Репо: https://github.com/SamsungSAILMontreal/TinyRecursiveModels
