Как работает агент
Начнем с очень базового вопроса - "что такое AI-АГЕНТ?"
Проблема в том, что никто точно не знает. Или просто я спрашивал не тех людей. Общепринятого формального определения нет. Но все, кто занимается разработкой агентов, +- интуитивно понимают, что это такое.
Самое последнее хайповое определение
Agent = LLM + Harness
Оно несет в себе не очень много смысла, т.к. в слово Harnsess просто засунули все те невырозимые 10000 приседаний, которые нужно сделать вокруг LLM, чтобы превратить ее в агента.
В Harness могут входить
- ваш механизм управления контекста
- тулы, которые вы прикрутили к нему
- память
- скилы
- мультиагентная логика
- интеграции с внешними системами
- и тд и тп
Т.е. Harness - это весь тот код, что вы пишете, чтобы превратить LLM в что-то, что закрывает реальные задачи.
А что такое LLM в этой парадигме? Очень просто: LLM - это мозг, который принимает решения HTTP ручка. И делает она ровно одну вещь: принимает JSON и отдает JSON
User -- { "role": "user", "content": "Привет!" } --> LLM
User <-- { "role": "assistant", "content": "Господи, ну что опять!?" } -- LLM
Все остальное - это Harness
· 21.04
Антон Нечаев для этого есть удобные интеграции уже - AG-UI, например. Не рекомендую реализовывать логику работы агента с фронтом самостоятельно
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён