Одна большая ошибка может перевесить десяток маленьких
При обучении модели важно не только посчитать ошибки, но и решить, насколько строго наказывать каждую. В MSE отклонение возводят в квадрат. Если модель ошиблась на 1, 1 и 8 единиц, вклады в общую потерю будут 1, 1 и 64. Последний промах почти полностью определит обновление модели.
MAE считает абсолютные отклонения: для того же примера получатся 1, 1 и 8. Поэтому она слабее реагирует на единичные выбросы. Универсального победителя нет: MSE полезна, когда крупные промахи особенно опасны, а MAE — когда в данных возможны аномальные значения. Функция потерь задаёт модели не только цель, но и цену каждой ошибки.
