LLM-агент, который пишет выводы в отчёты без логов и ограничений, — это генератор уверенной ерунды.

Сценарий узнаваемый: «пусть агент ночью собирает метрики, комментирует аномалии и кидает сводку в канал». Через пару недель сводка становится “истиной”, на неё опираются решения, а потом выясняется, что цифры не те, период не тот, сегмент не тот, и никто не может повторить, как агент к этому пришёл. Цена — потерянное доверие к аналитике и бесконечные разборы “почему опять не сходится”.

Почему это ломается: агент — это цепочка из промпта, модели, инструментов (SQL, BI, трекер), контекста (документация, прошлые треды) и прав доступа. Меняется любая часть — меняется ответ. А когда ответ звучит уверенно, он легко проходит как «аналитический факт», даже если это пересказ догадок или неправильно прочитанных данных.

Минимальный стандарт безопасного внедрения фонового агента в аналитику:

  1. Логируйте всё, что делает ответ воспроизводимым: входной запрос, системные инструкции, итоговый промпт, версию модели, настройки генерации, список tool-вызовов, параметры SQL/дашборда, снимок источников контекста, идентификатор запуска. Без этого у вас не “AI-помощник”, а чёрный ящик.

  2. Запрет на “нарратив без опоры”: агент обязан привязывать выводы к конкретным источникам внутри вашей системы (id запроса, имя датасета, период, фильтры, версия витрины). Если опоры нет — допустимый ответ только “недостаточно данных” и список того, что нужно.

  3. Оценка качества не через “похоже на правду”: заведите набор эталонных кейсов (типовые вопросы по метрикам, инциденты, спорные разрезы), рубрику проверки и регулярные прогонки. Отдельно тестируйте негативные сценарии: неоднозначные метрики, смена определения, пустые данные, разные таймзоны, задержки загрузки.

  4. Доступ к данным — по принципу минимальных прав: allowlist источников и действий, запрет на прямой доступ к сырому PII, маскирование чувствительных полей, row/column-level security, обязательный аудит обращений. Агенту почти никогда не нужен доступ “как у аналитика”, и точно не нужен доступ “как у админа”.

  5. Ограничьте формат результата: структурированный вывод (таблица фактов отдельно, интерпретация отдельно), фиксированные поля (период, сегмент, метрика, baseline, изменения), строгие правила округления и единиц. Чем меньше свободы в форме — тем меньше “галлюцинаций в стиле отчёта”.

В правильной практике агент не “делает аналитику”, он автоматизирует рутину и приносит черновик, который можно проверить и повторить. Обычно спорят про скорость и “сэкономленное время”, но реальный критерий один: сможете ли вы через месяц восстановить ровно тот же результат и объяснить его источниками. Граница применимости простая: если выход агента автоматически попадает в отчёты для принятия решений, без логов, оценок и контроля доступа запускать нельзя.