AI не привносит в систему разум. Он усиливает то, что в ней
После поста о точках вмешательства меня могут спросить: а где в этой картине искусственный интеллект? Мой ответ: AI - не шестая точка, а множитель, прикладываемый к пяти первым. И станет он усилителем или ускорителем краха - зависит от зрелости контуров обратной связи.
Я раскладываю это на пять проверок.
1. Контур замкнут: обратная связь меняет решения? Данные - это след прошлого. Обратная связь - сигнал, который возвращается в решение и меняет его. Sterman в Business Dynamics формулирует жёстко: петля существует только там, где информация замыкается на действие. Дашборд, на который смотрят, но после которого ничего не меняется, - это архив, а не обратная связь. Первая проверка перед внедрением AI: назовите решение, изменившееся за последний квартал благодаря обратной связи. Не называете - контур разомкнут, и автоматизировать вы собираетесь слепоту.
2. В какой контур попадёт алгоритм? AI - усилитель. В уравновешивающем контуре он стабилизирует быстрее: это благо. В усиливающем - ускоряет всё: и рост, и крах. Алгоритм, оптимизирующий удобную метрику, рано или поздно начинает её геймить: как только мера становится целью, она перестаёт быть мерой. Поэтому вопрос архитектора не “что автоматизировать?”, а “какой контур будет кормить алгоритм и где его стоп-кран?”. Усилитель без карты контуров - это автоматизированное ускорение в сторону обрыва.
3. Цена обратной связи - доверие. Честная обратная связь - это данные о реальности. Отшлифованная - данные о фантазии. Люди говорят открыто только там, где безопасно: где негативный свет участника не превращается в наказание. Доверие, как и культура, - медленная переменная: строится годами, сгорает за один публичный расстрел за честность. Когда поток иссякает, AI не перестаёт работать - он начинает уверенно обучаться на стерильных отчётах. Это опаснее отсутствия данных: ошибка под маской уверенности.
4. Темп: обратная связь опаздывает, AI спешит. У любого сигнала есть задержка: голос клиента доходит до управления за недели, голос сотрудника - за месяцы. AI принимает решения за секунды. Быстрые решения по несвежему сигналу - классический источник колебаний: перерегулирование, качели, “лечили одно - сломали другое”. Прежде чем ускорять решения алгоритмами, укоротите петлю: приблизьте точки сбора к событию. Рассогласование темпов превращает нервную систему организации в дёрганую.
5. Чьи цели стоят в контуре? Ваша цепочка “цели → решения → среда → эффекты” - лишь одна из многих. Сотрудники, руководители, заказчики, партнёры, акционеры, государство - у каждого свои цели и свои петли. AI, обученный на данных одного контура, бодро оптимизирует против соседнего: продажи против производства, производство против клиента, все вместе - против следующего года. Зрелая система проектирует не одну петлю, а пересечение петель: где интересы совпадают - ускоряет, где конфликтуют - арбитрирует прозрачно. AI здесь не судья, а карта противоречий, нарисованная данными.
Сухой остаток. AI в управлении - это не про алгоритмы. Это про зрелость контуров обратной связи. Последовательность именно такая: замкнуть контур → заработать доверие → синхронизировать темп → картировать столкновения целей → и только потом ставить усилитель. Обратный порядок даёт дорогую систему, которая уверенно автоматизирует вашу слепоту.
Вопрос к практикам: в какой точке у вас умирает обратная связь - на сборе, по дороге к решению или после него? Делитесь в комментариях: лучшие кейсы станут материалом следующего поста серии.
#СистемноеМышление #AIВУправлении #ОбратнаяСвязь #СистемнаяДинамика