Агент, который завис и молчит, - это не баг, а нормальный сценарий, если у вас нет отдельного контролирующего слоя.

Когда в бизнес-процессе появляется ИИ-агент, первый вопрос - какую задачу он решает. Второй вопрос, который задают куда реже, - что происходит, если агент застревает. Именно второй вопрос определяет, доживёт ли система до продакшена.

У меня есть личный агент, который принимает задачи текстом и голосом в Telegram и держит контекст между сессиями. Пока я его строил, выяснилось, что самая частая точка отказа - не логика самой задачи, а момент, когда агент упирается в ошибку или зависает в ожидании ответа. В демо-версии этого не видно: там всё идёт по счастливому сценарию. В живой эксплуатации видно сразу.

Проблема в том, что молчание агента неотличимо от его нормальной работы. Он не пишет “я завис” - он просто перестаёт отвечать. Если единственный способ это заметить - случайно зайти и проверить, система держится на внимательности человека, а не на архитектуре.

Поэтому я закладываю отдельный слой - сторожа. Его задача одна: заметить, что агент дольше обычного не двигается по задаче, повторяет одну и ту же ошибку или ждёт решения, на которое никто не ответил. И дать сигнал сразу, по протоколу - а не человеку, который случайно наткнулся на зависший процесс.

Это меняет экономику внедрения. Без сторожа каждый агент требует ручного присмотра, и чем больше их становится, тем больше времени уходит не на задачи, а на проверку, что агенты вообще работают. Со сторожем это время освобождается для решений, которые действительно требуют человека - денег, доступов и репутации. Статус “запущено успешно” и “принесло результат” - два разных факта, и путать их нельзя.

Подробнее про устройство таких систем я разобрал здесь: ИИ-агенты простыми словами: разбор на моём живом проекте

Живые примеры того, как это работает на моих проектах, я складываю в витрину кейсов

Если вы уже строите или внедряете агентов - на каком этапе у вас появляется контроль за тем, что они действительно работают, а не просто числятся запущенными?