Очередной раз перечитал Талеба «Антихрупкость» в которой он объясняет природу проблемы, которую интуитивно чувствуют многие. COVID и экономическая турбулентность обнажили хрупкость глобальных систем. Но кажется, следующая волна хрупкости идёт оттуда, откуда мы ждём спасения - от искусственного интеллекта.

Мы оказались в странной дилемме – «проблеме эффективности». Без ИИ компании теряют рынки, отрасли - конкурентоспособность, а иногда государства - суверенитет. Но чем глубже мы интегрируем вероятностный и непрозрачный ИИ в критическую инфраструктуру, тем более хрупкой становится вся конструкция. Достаточно одного «чёрного лебедя» - невиданного ракурса, атаки на модель, каскада ложных срабатываний - чтобы обрушить то, что строилось годами.

Компьютерное зрение(CV) которому я учился в магистратуре последние 2 года - яркий пример. Это та же вероятностная система, которая обязательно будет ошибаться, и характер этих ошибок меняется со временем. Классический менеджмент, построенный на причинно-следственных связях, к такому не готов.

Что если перестать делать вид, что неопределённость ИИ можно устранить технически, и начать управленчески работать с ней как с фундаментальным свойством системы? Сценарное планирование, экономическая интерпретация метрик точности, объяснимый ИИ(XAI) как инструмент аудита и доверия - всё это не просто хайповые термины, а элементы будущей методологии выживания в новом технологическом укладе, который перестал быть детерминированным.

Об этом сейчас думаю. Возможно, главный вызов цифровой эпохи - не точность алгоритмов, а наша способность оставаться устойчивыми в условиях, когда точность никогда, еще раз, НИ-КОГ-ДА не будет равна 100%.