Правка весов сократила петли, а не научила математике

2 ноября исследователи MIT CSAIL выложили в блоге работу «Sparks of Weight-Space Programming» (без рецензирования). Авторы утверждают, что модель общего назначения GPT-6 Astra от OpenAI читает и пишет веса нейросетей напрямую, без градиентного спуска. Главная цифра в начале публикации: правка 0,016% весов подняла Qwen3.5-0.8B на MATH-500, наборе из 500 задач по математике, с 7,9 до 48,1%. Ниже — что она значит, судя по выложенным логам.

Astra получила Python-сессию с весами Qwen. Обучать модель и считать градиенты запретили, но разрешили 50 прогонов: в каждом Qwen давала до 512 ответов на тренировочные задачи, Astra смотрела результат. Промпт приводил петли как пример поломки, которую можно чинить. По описанию авторов, Astra нашла одно направление (вектор, который слои 15 и 19 добавляют к внутреннему состоянию модели), связанное с зацикливанием, и вычла его. До правки 93% ответов на MATH-500 упирались в лимит длины в 32 768 токенов (по описанию авторов, из-за повторов), после — 33%.

Коротко: правка не научила модель математике, а позволила ей чаще дописывать ответ. Петли авторы называют уже в начале публикации, а что способность не добавилась, признают только в разделе о Gemma. По проверке, которую провела сама Astra на 1 152 тренировочных задачах, не использованных при поиске правки, из 579 ответов, ставших верными, 576 раньше обрывались по лимиту, а на ответах, дописанных и до правки, точность не изменилась. На Gemma 3 270M, которую Astra правила так же и где в лимит упираются 8,5% ответов, результат на MATH-500 сдвинулся не больше чем на процентный пункт. Вывод авторов: правка может убрать препятствие, скрывавшее способность, но не добавить её.

Похоже, тем же объясняется и заявленный авторами рост IFEval, теста на следование инструкциям, с 21,0 до 62,3%: оборванный ответ он не засчитывает, а у исходной модели, по логам, обрывались около трёх четвертей ответов.

Есть и условия, которых в начале публикации нет. Каждая цифра — один запуск Astra (одна сессия с заданным бюджетом прогонов): с 10 и 25 прогонами MATH-500 вырос до 12,3 и 14,1%. По таблице в логах, ещё три запуска, не вошедшие в публикацию, так и не выдали правку. Исходную модель оценивали в режиме рассуждения, который у неё по умолчанию выключен; по карточке модели, в нём она зацикливается чаще других моделей семейства.

Сам приём известен: вычитание одного направления из весов описали Ардити и соавторы в 2024 году, а в июне 2026 года Лазаридис и соавторы правкой нескольких внутренних компонентов сократили петли повторения у моделей Gemma 4. Новым авторы считают то, что веса читает и правит модель общего назначения, без дообучения под задачу.

Понимает ли Astra веса без подбора правки прогонами, авторы проверяли отдельно. По 17 253 весам каждой из четырёх сетей одной архитектуры, обученных на четырёх простых играх, Astra без инструментов определила все игры (по оценке авторов). Отличить по весам языковую модель, обученную поддакивать пользователю, от честной она не смогла ни разу за четыре попытки, а по картам внимания — смогла во всех трёх парах моделей.

Для правки Qwen открытым остаётся главный контроль: сколько набирает неправленая модель при настройках, которые советует карточка (для соревновательной математики — лимит 81 920 токенов), или в режиме по умолчанию, без рассуждения. В публикации такого замера нет, и неясно, превосходит ли правленая модель исходную, запущенную по рекомендациям.