На прострах интернета найден интересный курс по ExplainableAI (редкие материалы, а тут еще и на русском!)
Вот емкая фраза из начального модуля, которую важно осознать всем, кто занимается аналитикой в ML-продуктах:
Хорошая метрика не гарантирует, что модель работает правильно.
Ниже про сам курс. Низкий поклон людям, которые приложили к этому руку.