Где оставить человека в контуре AI-агента?
Не каждое действие агента должно ждать подтверждения. Если сотрудник вынужден проверять десятки однотипных операций, human-in-the-loop быстро превращается в новую ручную работу: человек привыкает нажимать «Подтвердить», а контроль становится формальностью. Полезнее смотреть на два признака: — можно ли ошибку надёжно обнаружить автоматически; — можно ли действие нормально откатить. Если действие обратимо и хорошо проверяется правилами — его можно автоматизировать. Если поток большой, но последствия контролируемы — лучше мониторить исключения. Если действие трудно отменить, последствия значимы, а автоматической проверки недостаточно — тогда имеет смысл остановить workflow и запросить подтверждение человека. То есть хороший human-in-the-loop — это не «человек проверяет всё». Это человек подключается именно там, где автоматического контроля уже недостаточно.