Что вообще такое «агент»

Агентом сейчас называют что угодно: чат-бота, скрипт с одним промптом, обёртку над API. Спорить о терминах бессмысленно, но есть вопрос, который сразу расставляет всё по местам: сколько решений вы отдали модели, а сколько оставили за кодом.

Harrison Chase из LangChain называет это когнитивной архитектурой — как ваша система думает. То есть поток кода, промптов и вызовов LLM, который превращает запрос пользователя в ответ или действие.

Внутри любой такой системы кто-то принимает три решения:

• что выдать на конкретном шаге • какой шаг делать следующим • какие шаги вообще доступны

Дальше всё просто. Считаем, сколько из трёх решений принимает LLM, — и получаем шесть уровней автономии:

1. Код. LLM нет вообще, все решения зашиты. 2. Один вызов LLM. Модель решает только, что выдать. Один шаг. 3. Цепочка. Вызовов несколько, но их порядок задан кодом. 4. Роутер. Модель сама выбирает, какой шаг делать следующим. Циклов нет: каждый шаг проходится максимум один раз. 5. Стейт-машина. То же плюс циклы. Число вызовов заранее неизвестно, но набор доступных шагов всё ещё ограничен кодом. 6. Автономный агент. Модель сама определяет, какие шаги ей доступны: меняет промпты, инструменты, иногда код.

Граница проходит между 4 и 5. До неё поток ведёт человек, после — система сама, потому что появляются циклы, и вы больше не знаете, сколько шагов она сделает.

Отсюда главное: агентность — не флажок, а ползунок. Чем выше уровень, тем меньше предсказуемости, тем дороже отладка и эксплуатация. Ни один уровень не лучше другого — они под разные задачи. И архитектуру стоит перебирать так же спокойно, как вы перебираете промпты.

#agent

Что вообще такое «агент» | Сетка — социальная сеть от hh.ru