Нейронка, которая понимает код, а не просто его пишет 👨💻
Все текущие AI-ассистенты идеально знают синтаксис, помнят тысячи паттернов, но абсолютно не понимают, что делает код, когда его запускают. Это как выучить грамматику языка, не зная значения слов.
Но на днях вышла Code World Model (CWM) — 32-миллиардная опен-сорс модель, обученная не просто на текстах программ, а на их исполнении.
Главная идея — построить внутри себя "модель мира" вычислительной среды. Вместо того чтобы просто видеть миллионы строк кода как текст, CWM училась на траекториях "действие-наблюдение".
Представьте разницу в обучении:
- Старый подход: Дать книгу с тысячами примеров кода и сказать "запомни".
- Подход CWM: Посадить за комп с наставником. Он говорит: "Напиши a = 5". Ты пишешь. Он показывает: "Смотри, в памяти появилась переменная a со значением 5". Потом: "А теперь a = a + 1". Ты пишешь. Он: "Теперь a равно 6".
Разобрал эту технологию в статье. Там и про архитектуру, и про этапы обучения, и про примеры симуляции: ➡️Погружение в CWM: как "модели мира" меняют правила игры в генерации кода