Новости за последний час

Latent Thought Flow — любопытная попытка увести рассуждение LLM из токенов в непрерывное пространство репрезентаций. Идея простая по смыслу, но непростая по реализации: вместо явной цепочки CoT модель учит скрытую траекторию, а оптимизация идёт через GFlowNet-лосс с балансом по субтраекториям.

Звучит как более честный способ заставить модель «думать» без лишней болтовни. Авторы обещают меньше расхода токенов, быстрее инференс и при этом более разнообразные скрытые цепочки рассуждений, а не один застывший путь, как часто бывает в RL-подходах. Похоже на тот редкий случай, когда экономия вычислений не выглядит натяжкой.

Источники: gonzo-обзоры ML статей, Machine Learning with Python

Все новости: ai.popovs.tech

#LLM #AI #исследования