На самом деле эксперимент интересный, но заголовки несколько преувеличивают его значение. Astra действительно смогла изменить всего 0,016% весов Qwen и повысить результат математического теста с 7,9% до 48,1%. Однако принципиальный момент в другом, она не научила модель новым математическим способностям, а обнаружила и устранила механизм зацикливания, из-за которого модель не могла нормально завершать рассуждения. Причём это не было полностью автономным улучшением без обратной связи. Astra имела доступ к весам, тренировочным примерам и результатам проверочных запусков. Просто вместо традиционного градиентного обучения она самостоятельно определила, какие параметры необходимо изменить. И вот это действительно серьёзный результат! LLM начинает выступать не только инструментом разработки, но и средством анализа и целенаправленного исправления внутренних механизмов другой нейросети. Но до рекурсивного самосовершенствования пока далековато. Продемонстрирована возможность устранения конкретного дефекта небольшой модели, а не универсальный механизм повышения интеллекта. На мой взгляд, это перспективное направление именно в области интерпретируемости, диагностики и оптимизации нейросетей. Если метод окажется воспроизводимым и масштабируемым, последствия для разработки ИИ действительно могут быть существенными.

)) по сути старшая модель сказала младшей - ты можешь

Хм, прям веса? Или lora?