Обычно мы оцениваем агента по тому, что он смог сделать. Написал код, подготовил письмо, изменил данные, отправил результат.

Но для меня важен и обратный тест: умеет ли он остановиться, когда действие выходит за согласованные границы.

Представим, что агент подготовил изменение в базе данных. Это еще не означает, что он может сам применить его к рабочей базе. Сначала он должен показать, что изменится, как это проверить и какие последствия возможны. Кнопку подтверждения нажимает специалист.

А если действие нельзя нормально отменить, например полное удаление базы, правильным результатом будет отказ от выполнения. Не предупреждение после команды и не аккуратная запись в журнале, а технический отказ продолжать.

В таком сценарии ответ "я не буду это делать" не ошибка автоматизации. Это доказательство, что граница существует не только в инструкции.