#ml Продолжаю цикл постов про обучение нейронки.

Прошло уже больше половины обучения, но пока часто встречаются ошибки в ответах.

Например вопрос: Сколько струн на гитаре? Ожидаем ответ: 6.

Получаем цитату из Википедии, неотносящуюся к контексту вопроса.

Почему так происходит? Потому что корпус формата вопрос-ответ был всего ~200кб, и его ожидаемо затерло до обучение русскому языку.

Чинится просто, перезапускаем обучение на миксе форматов и далее замечаем резкое падение LR(Learning Rate) графика, что сигнализирует о том, что модель не переобучается, а скорее до обучается и вспоминает формат, а так же замечаем взлет Val Loss, что сигнализирует о том, что модель уже закрепляет полученные знания на предыдущих прогонов(если при ранних прогонов Val Loss колебался между 2-4, то сейчас онподскочил при старте прогона до 2.74 и плавно начал опускаться, что тоже сигнализирует о том, что модель закрепляет знания). Что же… Как говорил мой командир роты в армии:

зырим внимательно.

На этом этапе, я полагаю что “галлюны” это база. Глюки примерно такие: Вопрос: Какая частота у ноты D2? Ответ: в 1812 году был принят манифест о …

Следующая контрольная точка планируется на 16000 шагах, там уже будем зырить, чему этот Франкенштейн научился и что запомнил.

А пока я буду формировать следующий датасет, чтобы на вопрос Какой город является столицей Парижа, модель не ответила мне Nothing Left

И, если я этого ещё не писал, напишу сейчас.

Я не изучал machine learning/deep learning, мне просто интересно как это все дело работает. И я понимаю, что модель уровне Sonnet/Sol/Qwen я вряд ли смогу обучить дома, потому что у меня физически нет таких бюджетов, как у OpenAI, Antropic и подобных компаний.

примерно так выглядит график колебания Val Loss на интересующих меня промежутках.