Новости за последний час Муон объяснили через кривизну ландшафта функции потерь В статье на arXiv авторы разбирают, почему оптимизатор Muon может обучать большие языковые модели примерно вдвое быстрее Adam. Ключевое объяснение связывают со спектральной нормализацией, которая выравнивает вклад разных направлений обновления. Источник: gonzo-обзоры ML статей

Все новости: ai.popovs.tech