Как вы узнаёте, что модель пропустила мелкий дефект?

Вопрос к тем, у кого компьютерное зрение работает в продакшене.

Я занимаюсь темой мелких объектов в сегментации. Начиналось с диплома про повреждения автомобилей, выросло в научную статью. Сейчас она на рецензии в журнале «Компьютерная оптика», а инструменты я выложил в открытую библиотеку tinyeval.

Проблема, с которой я работал, такая. Общая метрика по датасету может выглядеть отлично, а мелкая царапина или скол в ней почти ничего не весят.

На проде это неприятно. Модель вроде работает, отчёты зелёные, а мелкие дефекты тихо проходят мимо.

Мне интересно, как это ловят у вас.

Смотрите метрики отдельно по размеру объектов? Держите отдельный набор сложных примеров? Или узнаёте только тогда, когда пожалуется клиент или ОТК?

Буду благодарен, если поделитесь, как у вас устроено. И если у вашей команды есть задача, где мелкие дефекты важны, напишите в личку. Я ищу компании, которые готовы проверить мой подход на своих данных.