Добрый день, коллеги. Материала получилось так много, что пришлось разделить на две части. Это первая часть к оригинальному посту Павла.

Сначала важная оговорка от меня, которую я не могу не сделать: как популярная управленческая статья материал Павла на “РБК Компании” (не путать с РБК) вполне добротный. Автор последовательно рассказывает нам о распределении полномочий, цене ошибок и необходимости контроля. Но одно дело объяснять проблему, и совсем другое - предлагать методику ее решения.

Давайте начнем с шести критериев и банальной арифметики.

Читателям предлагается оценивать повторяемость решения, качество данных, цену ошибки, обратимость, правовые и репутационные риски, контролируемость результата. Каждому критерию присваивается 0–2 балла. Сумма определяет уровень автономности ИИ: от рекомендаций до действий с выборочным контролем.

Почему критериев именно шесть? Почему они равнозначны? На каком основании выбраны пороги 0–4, 5–8, 9–10 и 11–12? Почему 8 баллов требуют одобрения человека, а 9 уже позволяют машине действовать самостоятельно?

Обоснований нет. Ни калибровки, ни проверки на реальных решениях, ни объяснения порогов. Павел прямо предупреждает, что модель не научная и не нормативная, и это корректная оговорка, но она не превращает произвольные границы в обоснованные. Качественные экспертные суждения можно “кодировать” числами, но сложение таких чисел не делает результат объективным автоматически. Иначе, вы знаете, у меня тогда тоже есть методика абсолютно для всего.

Теперь давайте посмотрим, что именно оценивается?

“Существенные потери”, “умеренный риск”, “быстро обнаруживаемая ошибка”. По отношению к чему потери существенны? Сколько времени означает “быстро”? Когда решение считается обратимым?

Без измеримых определений и правил назначения оценок два руководителя могут получить разные баллы для одной ситуации, при этом оба будут формально соблюдать инструкцию.

Есть тут и проблема пересечения критериев. Цена ошибки может включать в себя юридические последствия, затраты на отмену и убытки из-за позднего обнаружения. При этом обратите внимание, что правовой и репутационный риски объединены в один показатель, хотя очевидно имеют разную природу. Автором не определено, как предотвращать двойной учет и пропуски при оценке.

А теперь давайте я покажу вам, когда баллы перестают работать.

Павел вводит запрет: если цена ошибки, обратимость или правовой риск получили ноль, то окончательное решение остается за человеком независимо от суммы. Подобные ограничения выглядят разумно, но тогда мы имеем два механизма: некомпенсируемые условия и аддитивную шкалу. Тогда возникает вполне очевидный вопрос: почему эти три критерия обладают правом вето, а другие могут компенсироваться? Как обоснованы уровни автономности после применения запретов? Сочетать пороговые ограничения и балльную оценку, конечно, можно, однако нельзя считать такое сочетание методически объясненным только потому, что оно кажется автору “здравым”.

И пример с закупками здесь совсем не помогает.

Автоматическое пополнение расходных материалов получает 12 из 12. Обратимость Павел обосновывает тем, что излишки можно использовать позднее или скорректировать следующий заказ. Однако компенсация последствий не равнозначна отмене решения: заказ мог создать договорные обязательства, расходы на хранение или невозвратные затраты. Чтобы ставить максимальный балл, эти условия нужно проверять, а не предполагать.

При этом можно с полной уверенностью сказать, что перед нами полезный список вопросов для управленческого обсуждения и одновременно - недостаточно обоснованный инструмент назначения уровней автономности. Шкала не становится методикой только благодаря баллам, интервалам и примерам.

Во второй части я раскрою проблему глубже: даже идеально откалиброванная шкала не отвечает, насколько надежен конкретный ИИ и нужен ли он вообще.