Деплой упал, обработал 7 из 28. Как не потерять живой трафик

LLM-агент для строительной компании живет в Telegram и ставит задачи в CRM. Пока идет обычная работа, пользователи пишут сообщения, агент их обрабатывает. В этот момент в очереди 28 задач.

Запускаю деплой новых правил. Агент начал обрабатывать задачи - но упал по таймауту спустя 30 секунд. Обработано ровно 7 из 28.

Перезагружаюсь. И вот проблема: кэш сессии LLM не подхватил свежие правила. Остальные 21 задача не прошла обработку вообще - молча, без ошибок. Пользователи пишут, ждут результат, а системе плевать.

Сделал идемпотентный backfill: взял оставшиеся 21 задачу и переобработал через API с правилами из свежего деплоя. 28 из 28 готовы.

Вывод: во время живого трафика правила в активной LLM-сессии не обновляются просто перезагрузкой. Нужна явная переобработка со специальным флагом или отдельным проходом. Это архитектурная граница: где держится состояние и когда оно обновляется.

#LLM #агенты #деплой #идемпотентность #production #reliability #разработка #backend