Карта принятия решений агентными ИИ от McKinsey.

Точнее — какие решения можно отдать ИИ, а какую роль играет человек.

Это матрица 3x3, с двумя координатами: — Риск от последствий неверного решения — Сложность решения

Соответственно, риски могут быть трёх уровней: — низкие (либо низка вероятность, либо почти нет урона) — средние (потеряем много денег или репутацию) — необратимые (может произойти что-то фатальное: гибель или ранения людей, разорение компаний, отзыв лицензий/запрет деятельности, падение рынков)

Сложность тоже делится на три уровня: — низкая (простые повторяющиеся действия) — средняя (есть некий паттерн, но в общем действия не совсем точно повторяются) — высокая (ситуация сильно неоднозначная)

И дальше смотрим на пересечениях — какую роль играет ИИ, какую человек.

В правом верхнем — только решение человека (высокая сложность, высокие ставки). В левом нижнем — ИИ может действовать самостоятельно, вообще без присмотра.

Дальше начинаются всякие интересные сочетания: Низкий риск, средняя и высокая сложность: ИИ как исполнитель (принимает решения сам, человек мониторит) ИИ как оператор (выполняет процесс, человек вовлекается в сложных случаях)

Средний и высокий риск: ИИ как ассистент (поддерживает, не принимает решения) ИИ как коллаборатор (дает советы, человек валидирует) ИИ с условной автономией (сам выполняет операции, человек просматривает краевые кейсы)

В общем, всё логично разложено. Это матрица была выпущена ещё летом. Но реальная практика показывает, что чихать люди хотели на риск-ориентированный подход - они просто дают агенту с клешней полный доступ ко всему и бесконтрольное принятие решений.

Интересно в этом смысле, в какой части матрицы работвют разные роли: аналитик, архитектор, продакт?