Завтра у меня предзащита диплома по детекции объектов в ритейле. Техническая часть готова. Модель показывает хорошие результаты: Precision - 94,5%, Recall - 94,6%, F1@50 - 94,6%. То есть можно выйти и гордо заявить: «Точность модели - почти 95%». Звучит убедительно. Почти как гарантия. Но чем больше я думаю о компьютерном зрении и внедрении ИИ в реальные бизнес-процессы, тем сильнее понимаю: мы часто смотрим со-оооовсем не туда. Мы не то считаем.

Главный вопрос не в 95% успешных распознаваний. Главный вопрос - в оставшихся условных 5%. При массовом применении работает теория больших чисел - эти 5% не «возможно когда-нибудь случатся». Они случатся гарантированно. И, кажется, одна из причин здесь глубже, чем просто качество модели.

ИИ живёт в цифровом мире, где всё масштабируется почти мгновенно: данные, вычисления, модели, автоматические решения. А бизнес живёт в физическом мире, где есть полки, коробки, камеры, свет, люди, пыль, ракурсы, расстояния, задержки и усталость. Цифровой мир ускоряется почти геометрически. Физический мир движется гораздо медленнее - через ограничения материи, пространства и времени. Компьютерное зрение находится ровно посередине. Это «глаза», через которые цифровая система пытается понять физическую реальность. И именно здесь появляется трение. На демонстрации всё выглядит красиво. В презентации - убедительно. В пилоте - почти безупречно. А потом бац -  меняется освещение, выкладка товара, угол камеры, поведение покупателей, качество данных - и модель начинает ошибаться там, где бизнес этого не ждал.

Вот здесь появляется обратный принцип Парето ИИ. В классическом менеджменте мы привыкли: 20% усилий дают 80% результата. А в вероятностных ИИ-системах может быть наоборот: небольшая доля ошибок способна создать основную, часто непоправимую, часть ущерба.

Ложное срабатывание - это не просто false positive. Это лишняя проверка, тревога, блокировка, потерянное время. Пропущенный объект - это не просто false negative. Это недостача, дефект, убыток, сбой процесса или потеря доверия к системе. Мы часто попадаем в ошибку выжившего: видим красивые метрики, успешные демо и удачные кейсы. Но почти не видим те самые исключения, на которых система ломается. ИИ нельзя оценивать только через экономику эффективности: сколько мы сэкономим, ускорим, автоматизируем. Нужна экономика неопределённости ИИ.

Главный вопрос должен звучать так: Сколько стоит её неизбежная ошибка и насколько лично Вы к ней готовы?

Будущее, кажется, не за теми, кто просто быстрее внедрит ИИ. Будущее за теми, кто научится управлять его неизбежными ошибками.