Один запрос: 83 000 токенов без графа знаний, 40 000 с ним. Вот как мы это починили

У нас в системе AIBRO есть агент СММщик, он работает с большим объёмом данных: опубликованные посты, использованные темы, сегменты аудитории, скрипты сбора данных, конкуренты, инструменты. Всё это лежит в десятках файлов.

Проблема была простая и неприятная👇 Каждый раз когда агент начинал новую сессию, он читал всё подряд, без понимания что с чем связано. Тратил токены на то чтобы разобраться в структуре, прежде чем начать реально работать. Деньги и время впустую при каждом запуске.

⚡️Решение нашли через graphify Это инструмент, который предложил Андрей Карпатов, сооснователь OpenAI и бывший директор по ИИ в Tesla. За месяц репозиторий набрал 55к⭐️ и почти полмиллиона установок. Graphify один раз проходит по всему проекту и строит граф знаний — карту, где все файлы и документы соединены между собой по смыслу и структуре.

Теперь когда агент начинает сессию, он не читает всё подряд, а смотрит на карту, находит нужные узлы и берёт только то, что относится к конкретному запросу.

👉 Что мы сделали конкретно: 1. Поставили graphify на сервер, подключили к памяти СММщика 2. Граф покрывает два слоя: кодовый (все скрипты и их связи) и контентный (посты, темы, аудитория, инструменты) Итого 4 000+ узлов, кодовый слой обновляется автоматически раз в неделю, контентный подтягивается ежедневно без участия человека, без зависимости от локальной машины. Разница в деньгах: в A/B тесте один и тот же запрос с графом 40 000 токенов, без графа 83 000 токенов, то есть больше чем в два раза. При больших проектах от 500 файлов экономия доходит до 30 раз.

Если у вас меньше 100 файлов в проекте, graphify почти не поможет, поиск справится и так, но если вы строите что-то серьёзное: агентную систему, базу знаний, автоматизацию под бизнес — это один из самых недооценённых инструментов прямо сейчас.

📎Установка за минуту: pip install graphify graphify install --project graphify . После первого запуска агент сам начнёт использовать граф в работе.

👉 Забираем здесь: github.com/safishamsi/graphify

Один запрос: 83 000 токенов без графа знаний, 40 000 с ним | Сетка — социальная сеть от hh.ru