Вот если вам кажется, что все эти ваши модели фигня полная, то вот вам кусочек магии, которая пугает…

Исследователи дали GPT6 Astra задачу улучшить мелкую модель 0.8B Qwen, и Astra вручную поменяла веса внутри модели (без обучения, без всякий сложности, просто текстовый файл) и устранила проблему зацикливания.

Она нашла и поменяла всего 0.016% весов, блин, а доля решённых задач на математическом тесте MATH-500 выросла с 7,9% до 48,1%

Я, конечно, всегда отношусь к этому как инструменту, но, блин, человек так вот не мыслит ни сколько!