В Конвейере новостей об ИИ (ночью собирает и проверяет новости об ИИ и готовит пост дня для Telegram) агент готовит материал, а решение о публикации остаётся за мной. Замера до и после у меня нет - это важная часть кейса.

Задача. Отделить работу агента от действия, которое увидят другие люди. Генерацию текста можно проверить и поправить. Публикация уже выходит наружу, поэтому её нельзя оставлять на автоматическое решение модели.

Что было в цифрах. У меня нет данных о попытках агента выйти за рамки и нет замера, сколько ошибок предотвращает проверка. Поэтому не буду приписывать кнопке эффект, который не измерял.

Что сделано. Я провёл границу в самом процессе: агент собирает и проверяет материалы, готовит пост, а я читаю его в панели и принимаю решение. Промпт может объяснить правила, но контроль действия должен быть устроен в системе, а не держаться на обещании модели. И нужен след, по которому можно понять, что происходило во время прогона.

Что стало в цифрах. Ничего измеримого: сравнения до и после нет. Изменилось не число ошибок, а порядок действий - перед публикацией есть человеческая проверка.

Что сделал бы иначе. Завёл бы список выданных агенту прав в первый день, до первого прогона. Тогда проще увидеть, какие действия доступны системе, и проверить, не выдано ли лишнее. Кнопка тоже не волшебная: если нажимать не глядя, она превращается в формальность.

Кому подходит. Такой барьер нужен, когда агент готовит контент или выполняет действие с последствиями, которые нельзя незаметно отменить. Сначала отделить подготовку от решения, затем наблюдать и фиксировать действия.

Подробно разобрал логику ограничений здесь: ИИ-агенты пытаются взламывать банки: что я поменял у своих. А живые примеры я складываю в витрину кейсов

Какое действие в вашем процессе вы бы оставили только за человеком?