Маленькая модель может учиться у большой — без копирования её весов

Этот метод называется дистилляцией знаний. Компактную модель-ученика обучают воспроизводить выходы крупной модели-учителя. Причём уч

читать далее
Маленькая модель может учиться у большой — без копирования её весов
Этот метод называется дистилляцией знаний. Компактную модель-ученика обучают воспроизводить выходы крупной модели-учителя | Сетка — социальная сеть от hh.ru