Стэнфордский курс по обучению языковых моделей с нуля

В нем проходят полный цикл работы по обучению LLM: от токенизации и архитектуры трансформеров до инфраструктуры обучения на GPU, масштабирования, инференса, выравнивания (alignment) и всего всего. Он настолько свежий, что еще бегает идет прямо сейчас в универе, и выкладывается прям по ходу его прочтения

Если у вас большая мотивация и вы хотите разобраться, как из данных и большого количества вычислений получается магия — это для вас

Плейлист с лекциями: https://youtube.com/playlist?list=PLoROMvodv4rOY23Y0BoGoBGgQ1zmU_MT_ Репа с домашками: https://github.com/stanford-cs336 Страница курса: https://stanford-cs336.github.io/spring2025/

П.С. Знаю, что буду смотреть ближайшие несколько выходных :)