Разберу полностью — от архитектуры до цены. — КАК ЭТО РАБОТАЕТ Языковая модель (LLM) не знает ничего о вашем бизнесе по умолчанию. Чтобы она отвечала правильно — ей нужен контекст. Самый примитивный способ — системный промпт. Вы пишете: «ты менеджер компании X, вот наши цены, вот FAQ». Модель читает это перед каждым диалогом и отвечает в рамках этих данных. Работает. Но только до определённого предела. — ПОЧЕМУ ПРОМПТ НЕ МАСШТАБИРУЕТСЯ У каждой LLM есть контекстное окно — максимальный объём текста, который модель обрабатывает за один запрос. У GPT-4o это ~128 000 токенов. Звучит много. Но: — 1 000 товаров с описаниями = ~200 000 токенов — 5 000 FAQ = ещё ~500 000 токенов — история диалога, системные инструкции, логика — ещё сверху Контекст заканчивается. Модель начинает галлюцинировать — называть несуществующие цены, путать товары, обещать то чего нет. Плюс каждый запрос с огромным промптом стоит денег. При 1 000 диалогов в день — счёт за API вырастает в 10–15 раз.

ПРАВИЛЬНАЯ АРХИТЕКТУРА — RAG Retrieval-Augmented Generation. Принцип: вместо того чтобы держать всю базу знаний в промпте — система в реальном времени извлекает только нужный фрагмент. Как это устроено: 1. База знаний нарезается на chunks — смысловые блоки 2. Каждый chunk прогоняется через embedding-модель и превращается в вектор исловой отпечаток смысла 3. Все векторы хранятся в vector store (Pinecone, Weaviate, pgvector) 4. Когда клиент задаёт вопрос — он тоже превращается в вектор 5. Система ищет ближайшие по смыслу chunks через cosine similarity 6. Топ-3 релевантных фрагмента подставляются в промпт 7. Модель отвечает точно по ним — без галлюцинаций Это то, что используют Intercom, Zendesk, Salesforce в своих AI-продуктах.

Самим можно ?

Чтобы построить это с нуля нужно: — Backend-разработчик: API-сервер, вебхуки, логика диалогов — ML-инженер: embedding pipeline, vector store, retrieval логика — Интеграции: WhatsApp Business API, Telegram Bot API, Авито, ВК — каждый отдельно — CRM-система: хранение лидов, статусов, воронки — Инфраструктура: серверы, базы данных, мониторинг Стоимость разработки под ключ: 600 000 — 1 300 000 ₽ Срок: 2–4 месяца Поддержка и обновления: 50 000 — 100 000 ₽/мес

ЧТО ЕСТЬ В ИСКРЕ Мы упаковали всю эту архитектуру в SaaS: — RAG из Google Таблицы — загружаете FAQ и прайс, система сама строит vector store — Мультиканальность — WhatsApp, Telegram, Авито, ВК, MAX в одном окне через единый API-слой — Встроенная CRM — лиды, воронка, статусы без интеграций — Сегментированные рассылки — новые, тёплые, потерянные, молчат 45+ дней — Авто-догон — если клиент не ответил, бот возвращается сам — Синхронизация каталога Авито — до 1 000 товаров по API-ключу Запуск: 10 минут Разница с самостоятельной разработкой — х50 по деньгам, х100 по времени.

Первая линия поддержки через ИИ — это не магия. Это конкретная архитектура. Которую больше не нужно строить самому.